Faits: A. A.a M._, né en 1956, a été engagé le 1er juillet 1976 en qualité de jardinier au service de la Ville de Genève. Le 19 septembre 1990, il a été nommé chef des cultures au service de X._. Dans le courant de l'année 2007, la Ville a décidé de délocaliser la production des plantes du site de Y._ à celui, plus excentré, de Z._. A cette fin, elle a loué des serres à un maraîcher. M._, ainsi que F._, sous-chef de culture, ont été affectés à ce nouveau site. O._, alors âgée de 16 ans, était apprentie horticultrice de deuxième année à l'établissement de Z._. Par lettre du 16 janvier 2009, sa mère, A._, s'est plainte de ce que sa fille faisait l'objet de remarques désobligeantes de la part de M._. O._ a été entendue le 28 janvier 2009 par le chef du service et une adjointe administrative. A cette occasion, elle a exposé que M._ et F._, de même que certains horticulteurs et apprentis, buvaient de la bière sur leur lieu de travail et que les employés cessaient leur travail trente minutes avant l'horaire pour boire. Parfois, ils buvaient de l'alcool pendant les heures de travail. Elle a aussi signalé qu'un horticulteur faisait pousser du cannabis dans les serres. Il en consommait quotidiennement sur place, de même que certains apprentis. M._ et F._ fermaient les yeux sur cette consommation. Enfin, elle a expliqué que ces derniers prélevaient des plantes, par cageots entiers, manifestement à des fins privées. L'apprentie a confirmé faire l'objet de brimades, de gestes et de paroles déplacés et de discriminations de la part de M._. La direction de X._ a mené diverses investigations préliminaires. Le 10 février 2009, le maire de la Ville a signifié à M._ une interdiction de travailler jusqu'à la saisine du Conseil administratif. Le 18 février suivant, le Conseil administratif a décidé d'ouvrir une enquête administrative contre M._ et il a confirmé la suspension temporaire d'activité de l'intéressé qui lui avait été provisoirement signifiée précédemment. L'enquête a été confiée à B._, assisté de D._. F._ a fait l'objet des mêmes mesures et de la même enquête administrative. A.b Les enquêteurs ont mené une enquête commune pour les deux fonctionnaires impliqués. Ils ont tenu une audience de comparution personnelle, ont procédé à l'audition de douze témoins et se sont rendus en transport sur place au centre horticole de Z._. Ils ont rendu leur rapport le 2 juin 2009. Ils ont constaté que M._ et F._ n'avaient pas respecté certaines obligations découlant de leur statut de fonctionnaire. D'abord ils avaient consommé de l'alcool sur le lieu de travail durant les heures travaillées et toléré la consommation de boissons alcoolisées par les employés et apprentis dont ils avaient la charge. Ils avaient en outre toléré la culture de cannabis sur le site du centre. En outre, ils avaient procédé à des prélèvements de plantes appartenant à la Ville sans disposer des autorisations nécessaires. M._ avait aussi, pour sa part, autorisé les employés et apprentis à prélever des plantes sans autorisation du magistrat compétent ou de la direction du service. En revanche, l'enquête n'avait pas permis d'établir que les personnes mises en cause aient toléré la consommation de cannabis sur le lieu de travail, pas plus qu'elle n'avait permis d'établir que M._ ou F._ se soient livrés à des discriminations ou aient exercé des pressions psychologiques sur le lieu de travail à l'égard de certains employés et apprentis dont ils avaient la charge. De même, il n'avait pas été établi que l'une ou l'autre des personnes mises en cause ait eu des paroles ou des gestes déplacés envers les apprenties. A.c Le rapport d'enquête a été transmis à M._, qui s'est déterminé à son sujet. Le 2 juillet 2009, le Conseil administratif a informé l'intéressé qu'il envisageait de le révoquer. Après que celui-ci se fut une nouvelle fois déterminé, le Conseil administratif a pris la décision de le révoquer; une indemnité correspondant à trois mois de salaire lui serait néanmoins versée. Cette décision, déclarée exécutoire nonobstant recours, a été communiquée à M._ le 23 septembre 2009. A.d Celui-ci a recouru contre cette décision devant le Tribunal administratif du canton de Genève (depuis le 1er janvier 2011, Chambre administrative de la Cour de justice). Après avoir procédé à diverses auditions de témoins, le Tribunal administratif a annulé la décision attaquée en tant qu'elle prononçait la révocation de l'intéressé et prononcé en lieu et place une réduction de traitement pour une durée de trois ans dans les limites de la catégorie dès le 10 février 2009 (jugement du 28 septembre 2010). A.e Par arrêt du 8 juillet 2011 (8C_907/2010), le Tribunal fédéral a admis le recours en matière de droit public formé par la Ville de Genève et renvoyé la cause à la juridiction cantonale pour qu'elle rende une nouvelle décision après avoir établi les faits et apprécié les preuves dans le respect de l'art. 9 Cst. B. Le 22 novembre 2011, la Chambre administrative de la Cour de justice de la République et canton de Genève a rendu un arrêt dont le dispositif est identique à celui de son jugement du 28 septembre 2010 susmentionné. C. La Ville de Genève forme un recours en matière de droit public en demandant préalablement l'octroi de l'effet suspensif. Elle conclut à l'annulation du jugement cantonal et à la confirmation de la décision du Conseil administratif du 23 septembre 2009. Subsidiairement, elle demande le renvoi de la cause à l'autorité cantonale pour nouveau jugement. M._ s'oppose à l'octroi de l'effet suspensif et conclut au rejet du recours, sous suite de frais et dépens. D. Par ordonnance du 5 avril 2012, l'effet suspensif au recours a été accordé. 