Faits: A. A.a Entre le 1er octobre 1998 et le 31 décembre 2007, Y._ a travaillé comme ouvrier, puis chef d'atelier au service de X._, lequel exploitait en raison individuelle une entreprise de sertissage dans le canton de Neuchâtel. Le contrat conclu le 30 octobre 1998 prévoyait notamment la réglementation suivante: un salaire mensuel brut de 3'600 fr., payable 13 fois l'an; un horaire de travail de 40 heures par semaine, à raison de 8 heures quotidiennes; l'obligation pour l'employé, en cas de besoin, d'accomplir les heures supplémentaires nécessaires à la bonne marche de l'entreprise. En septembre 2002, Y._ a été promu chef d'atelier; ce changement de statut n'a fait l'objet d'aucune convention écrite. La nouvelle fonction impliquait de donner des instructions aux sertisseurs et de les surveiller, de préparer leur travail et de gérer les commandes. Du point de vue de l'organisation du temps de travail, le chef d'atelier devait arriver un peu avant les ouvriers le matin et rester un peu après leur départ en fin de journée. A.b En 2006, l'employeur a soupçonné Y._ de travailler parallèlement pour le compte d'un concurrent. Une procédure pénale a été ouverte contre diverses personnes, Y._ étant pour sa part accusé de faux témoignage. Il a été libéré de cette charge par jugement pénal du 17 février 2009, au motif qu'il avait été auditionné à tort en qualité de témoin. Il est toutefois établi, nonobstant les dénégations du prénommé, qu'il a travaillé le soir dans une autre entreprise de sertissage pendant deux mois et demi environ, à la fin de l'année 2005 et aux alentours de la Foire de Bâle 2006. Le nombre d'heures accomplies et la rémunération touchée n'ont pas pu être déterminés. Le 9 octobre 2007, l'employé a résilié le contrat le liant à X._ dans le délai contractuel, soit pour le 31 décembre 2007. Dans un courrier du 21 mai 2008, l'employé a fait valoir des prétentions de 60'821 fr. à titre d'heures supplémentaires et de 42'000 fr. à titre de gratifications 2006 et 2007. A.c En sus de l'horaire contractuel de 40 heures hebdomadaires, l'employé a effectué des heures supplémentaires. Celles-ci ont été rémunérées trimestriellement, dès l'engagement de l'employé jusqu'au mois d'avril 2003. Depuis lors, Y._ n'a plus touché de rétribution pour ses heures supplémentaires et n'a pas pu prendre de congé compensatoire. Au préalable, l'employeur avait fait une communication sur les heures supplémentaires des employés dotés de responsabilité (cf. au surplus infra, consid. 6.3). Y._ a continué à consigner au jour le jour ses heures supplémentaires, sans les communiquer à son employeur. Il a cessé de tenir un tel décompte lorsqu'une timbreuse a été installée dans l'entreprise en décembre 2006. L'employé a par ailleurs touché des gratifications bisannuelles dès son entrée en service jusqu'en 2005; il n'a ensuite plus rien obtenu. L'employeur a expliqué qu'il avait supprimé cette prestation après avoir appris que son employé travaillait pour un tiers. En 2009, pour la première fois, aucune gratification n'a été versée dans l'entreprise en raison de la conjoncture économique. Au cours des relations contractuelles, Y._ a touché les salaires et gratifications suivantes: année salaire mensuel gratification (juillet + décembre) 1998 3'600 500 1999 4'000 2'500 (1000 + 1'500) 2000 4'200 (selon certificat 3'000 (1'000 + 2'000) du mois de juillet) 4'400 (selon certif. décembre) 2001 4'700 6'000 (2'000 + 4'000) 2002 5'000 (selon certif. juillet) 10'000 (4'000 + 6'000) 5'500 (selon certif. déc.) 2003 5'600 10'000 (4'000 + 6'000) 2004 5'625 13'000 (5'000 + 8'000) 2005 5'725 18'000 (8'000 + 10'000) 2006 5'785 - 2007 5'885 - B. B.a Le 10 juillet 2008, l'employé a ouvert action contre l'employeur devant l'une des Cours civiles du Tribunal cantonal du canton de Neuchâtel. Dans ses dernières conclusions, il requérait le paiement des sommes de 57'019 fr. 15 brut pour ses heures supplémentaires et de 42'000 fr. à titre de gratification pour les années 2006 et 2007, ainsi que la délivrance d'un certificat de travail. L'employeur a conclu au rejet de la demande, subsidiairement à la constatation de la compensation entre l'éventuelle créance du demandeur et celle du défendeur. Par jugement du 15 avril 2011, la Juge instructeur de la Ire Cour civile a condamné l'employeur à établir un certificat de travail dans le sens des considérants (chiffre 2 du dispositif) et à payer la somme brute de 40'635 fr. 65 (chiffre 1 du dispositif), soit 36'000 fr. à titre de gratification pour les années 2006 et 2007 et 4'635 fr. 65 à titre d'heures supplémentaires effectuées entre avril et juin 2003. B.b Les deux parties ont contesté cette décision devant la Cour d'appel civile du Tribunal cantonal. L'employeur a conclu à l'annulation du chiffre 1 du dispositif du jugement, qui le condamnait à payer 40'635 fr. 65. Quant à l'employé, il a requis la confirmation de cette condamnation, ainsi que le paiement de 57'019 fr. 15 à titre d'heures supplémentaires. Par arrêt du 22 février 2012, le Tribunal cantonal a partiellement admis les deux appels et réformé le jugement en ce sens que l'employeur doit verser à l'employé non pas 40'635 f. 65, mais 52'592 fr., soit 16'000 fr. à titre de gratification pour les années 2006 et 2007 et 36'592 fr. pour les heures supplémentaires effectuées entre avril 2003 et décembre 2006. C. Tant l'employeur que l'employé exercent un recours en matière civile devant le Tribunal fédéral. L'employeur conclut au rejet de l'action intentée par l'employé et à la constatation de la compensation entre l'éventuelle créance du demandeur et celle du défendeur. L'employé requiert l'annulation de l'arrêt et la condamnation de l'employeur au paiement de 57'019 fr. 15 à titre d'heures supplémentaires et de 42'000 fr. à titre de gratification pour les années 2006 (20'000 fr.) et 2007 (22'000 fr.). Chaque recourant conclut par ailleurs au rejet du recours formé par la partie adverse. L'autorité précédente renonce à se déterminer. 