Sachverhalt: A. Der 1969 geborene N._ arbeitete ab Januar 2001 bei der Gesellschaft X._ und war dadurch bei der Zürich Versicherungs-Gesellschaft AG (nachfolgend: Zürich) obligatorisch gegen Unfallfolgen versichert. Mit Unfallmeldung vom 2. Dezember 2004 liess er der Zürich mitteilen, er habe am 23. Mai 2002 anlässlich einer zahnärztlichen Behandlung durch eine Injektion eines Anästhetikums in den Unterkiefer links eine Läsion des Nervus lingualis erlitten. Die Zürich verneinte mit Verfügung vom 5. Januar 2006 ihre Leistungspflicht mit der Begründung, es liege mangels Ungewöhnlichkeit des Ereignisses kein Unfall vor. N._ erhob Einsprache. Das Verfahren blieb auf seinen Antrag hin sistiert bis zum Vorliegen der von ihm eingeholten neurologischen Beurteilung des Prof. Dr. med. B._, Department of Neurology, University Y._, Hospital and Clinics, vom 17. April 2009. Die Zürich ihrerseits holte nebst weiteren Arztberichten eine fachmedizinische Expertise des Prof. Dr. med. H._, Facharzt Mund-Kiefer-Gesichtschirurgie FMH, Spezialarzt Oralchirurgie, vom 9. März 2010 (mit ergänzender Stellungnahme vom September/Oktober 2010) ein. Mit Einspracheentscheid vom 14. Februar 2011 hielt sie an der Verfügung vom 5. Januar 2006 fest. B. Die von N._ hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 8. Mai 2012 gut. Es hob den Einspracheentscheid vom 14. Februar 2011 auf und stellte fest, der Versicherte habe für die Folgen des Ereignisses vom 23. Mai 2002 Anspruch auf die gesetzlichen Leistungen. C. Die Zürich führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, es sei der vorinstanzliche Entscheid aufzuheben und der Einspracheentscheid vom 14. Februar 2011 zu bestätigen. In verfahrensrechtlicher Hinsicht ersucht sie darum, der Beschwerde die aufschiebende Wirkung zu erteilen. N._ lässt auf Abweisung von Beschwerde und Gesuch betreffend aufschiebende Wirkung schliessen. Das Bundesamt für Gesundheit verzichtet auf eine Vernehmlassung. D. Mit Verfügung vom 22. Oktober 2012 weist die Instruktionsrichterin das Gesuch betreffend aufschiebende Wirkung ab. 