Faits: A. N._, né en 1970, est diplômé de l'Ecole hôtelière Y._ et titulaire d'un Master in Business Administration (MBA). Il a été engagé en qualité de comptable par l'Hôpital X._ dès le 15 septembre 1999. Le 1er juin 2001, N._ a été promu adjoint de direction au département Z._ de l'Hôpital X._. Son traitement a encore été augmenté de trois échelons supérieurs à partir du 1er septembre 2008 (classe 26 avec 6 annuités). Les évaluations globales de son travail ont toujours été bonnes. Au début du mois de juillet 2010, à l'occasion du bouclement mensuel des comptes de l'Hôpital X._, il a été constaté un écart important dans le résultat entre les mois de mai et juin 2010. Par courriel du 15 juillet, le directeur du département Z._, V._, a donné pour instruction à N._, H._, coordinateur informatique avec le titre d'adjoint de direction, ainsi qu'à B._, responsable du service du budget, d'examiner les raisons de cet écart. Dans ce contexte, il se posait notamment la question de savoir si la différence constatée pouvait provenir du nouveau système informatique d'estimation des encours que H._ avait récemment mis en place. A cette fin, une séance de travail a été organisée entre les trois prénommés le 16 juillet 2010 à 14 heures dans le bureau de H._. Au cours de cette réunion, une certaine tension s'est installée entre H._ et N._ qui a conduit à une altercation. H._ a fortement poussé en arrière N._ qui lui a ensuite donné un coup de poing au visage. Selon un certificat médical du 27 juillet 2010 établi par le docteur J._, H._ - qui avait consulté ce médecin les 19 et 22 juillet 2010 - présentait une plaie à la base du nez, une dermabrasion au niveau de la joue gauche de 1,5 cm de diamètre avec tuméfaction, une plaie de la paupière gauche, un hématome de l'orbite gauche, une hypoesthésie dans le territoire de Vème nerf crânien gauche (branche maxillaire) ainsi qu'un abaissement de la commissure labiale gauche, constatations compatibles avec une agression physique. Le 20 juillet 2010, H._ a déposé plainte pénale contre N._. Il a refusé de participer à une séance d'explication proposée par D._, membre de la direction au département Z._, à l'initiative de N._. Convoqué pour un entretien de service le 31 août 2010, ce dernier a notamment déclaré qu'il avait agi dans un réflexe de défense, qu'il était peut-être fatigué à la veille de ses vacances, et qu'il regrettait son geste. Le 24 septembre 2010, le président du conseil d'administration de l'Hôpital X._ a informé N._ de l'ouverture d'une enquête administrative à son encontre ainsi que de sa suspension provisoire sans suppression du traitement. L'enquête a été confiée à R._ qui a interrogé les deux protagonistes, B._ ainsi que sept autres témoins, dont V._. Selon les conclusions de son rapport, l'origine du conflit provenait d'une divergence d'opinion entre H._ et N._ au sujet des raisons d'un écart dans la comptabilité, le premier acceptant mal que le second remette en cause le système informatique qu'il avait conçu et insiste auprès de lui pour connaître le mode d'utilisation de certains chiffres. Cette situation avait engendré l'animosité qui avait conduit à l'altercation entre les deux fonctionnaires. Malgré certaines divergences dans les témoignages, l'enquêteur a considéré qu'il pouvait être raisonnablement admis qu'à un moment donné, N._ et H._ s'étaient levés et mis face à face, très près l'un de l'autre, dans une attitude d'intimidation. H._ avait alors repoussé N._ en arrière avec ses deux mains. Trébuchant sur sa chaise, ce dernier a été retenu de chuter par le mur situé derrière lui. Ensuite, il avait tendu son bras et frappé H._ au visage. Dans l'intervalle, par ordonnance de condamnation du 18 octobre 2010, N._ a été reconnu coupable de lésions corporelles simples et condamné à une peine pécuniaire de 20 jours-amende avec sursis pendant trois ans. Saisi d'un recours contre cette ordonnance, le Tribunal de police a acquitté l'intéressé du chef de lésions corporelles simples et laissé les frais de la procédure à la charge de l'Etat (jugement du 1er mars 2011). L'acquittement était motivé par l'admission d'un état de légitime défense putative. Le juge pénal a considéré qu'au vu de la taille imposante de H._ et compte tenu du fait que celui-ci avait commis en premier un geste physique contre N._ qui l'avait fait tomber, ce dernier avait légitimement pu croire, dans sa perception des événements, que son collègue n'allait pas s'arrêter là. Par décision du 23 mars 2011, se fondant sur les conclusions de l'enquête administrative, l'Hôpital X._ a prononcé la révocation de N._ pour faute grave et violation des devoirs de service au sens des art. 20, 21 let. a et 22 al. 4 du statut du personnel de l'Hôpital X._. Les rapports de service étaient résiliés pour le 30 juin 2011 en application des art. 16, 17 et 20 de la loi générale relative au personnel de l'administration cantonale, du pouvoir judiciaire et des établissements publics médicaux (LPAC; RSG B 5 05). Cette décision était exécutoire nonobstant recours. B. Par acte du 6 mai 2011, N._ a recouru devant la Chambre administrative de la Cour de Justice de la République et canton de Genève, en concluant principalement à l'annulation de la décision du 23 mars 2011 et à sa réintégration au sein de l'Hôpital X._. Il a également sollicité le rétablissement de l'effet suspensif au recours, qui lui a été refusé par décision incidente du 25 mai 2011 du président de la Chambre administrative. Statuant le 24 avril 2012, la juridiction cantonale a rejeté le recours. C. N._ interjette un recours en matière de droit public. Sous suite de frais et dépens, il conclut à l'annulation du jugement cantonal et au renvoi de la cause à la Cour de justice pour qu'elle statue à nouveau dans le sens des considérants. L'Hôpital X._ conclut au rejet du recours. 