Faits: A. A.a Y._ a été interpellé par la Police municipale de Lausanne dans la nuit du 16 au 17 juillet 2009, à la suite d'un appel du service de sécurité de la discothèque dans laquelle il se trouvait. Amené à l'hôtel de police, et placé en box de maintien, il s'est mis à frapper contre les murs et à donner des coups de pieds contre la porte. Il a enlevé son t-shirt et fait mine de le mettre autour de son cou. Il en a fait de même avec ses pantalons. A.b Le 17 juillet 2009, à 4 heures du matin, X._, brigadier à la section D de Police-secours, a pris son service à l'Hôtel de police succédant à ses collègues qui avaient procédé à l'interpellation de Y._. Au vu du comportement excité et auto-agressif du jeune homme, il a été décidé de placer celui-ci sur un lit de contention afin de le protéger contre lui-même. C'est X._ qui, avec son équipe, s'en est chargé. Selon la procédure, les policiers devaient être au nombre de six au moins et X._ donnait les instructions à ses collègues. A.c Au moment d'être placé sur le lit de contention, Y._ était calme et a obtempéré, mais lorsqu'il s'est retrouvé seul dans le box de maintien, couché sur le dos et attaché au lit, il a tout essayé pour se libérer de ses liens. Il est notamment parvenu à se détacher partiellement et à uriner sur le sol et le mur. Son comportement a nécessité plusieurs interventions de la part des agents, au cours desquelles le jeune homme les a invectivés et a craché au visage de X._. Lors d'une nouvelle manoeuvre des agents visant à remettre en place les liens et sangles pour maintenir Y._ en place, à un moment situé entre 05h37 et 05h49, le jeune homme a à nouveau craché au visage de X._ et s'est mis à proférer des insultes à son encontre. Lorsqu'il a dit au brigadier qu'il "baisait ses filles", X._ lui a assené un coup de poing sur le côté droit du visage, occasionnant une entaille à la lèvre supérieure qui a nécessité par la suite deux points de suture. B. Par jugement du 23 juin 2011, la Cour d'appel pénale du Tribunal cantonal vaudois a réformé un jugement du Tribunal de police de l'arrondissement de Lausanne en ce sens que X._ est reconnu coupable d'abus d'autorité (art. 312 CP) et condamné à une peine pécuniaire de 5 jours-amende à 75 francs l'un, avec sursis et délai d'épreuve de deux ans. C. X._ interjette un recours en matière pénale au Tribunal fédéral contre l'arrêt de la Cour d'appel pénale. Il conclut à l'annulation de celui-ci, à son acquittement, ainsi qu'à ce que les frais de la procédure soient laissés à la charge de l'Etat. A titre subsidiaire, il demande le renvoi de la cause à l'autorité de première instance pour nouveau jugement au sens des considérants. A titre encore plus subsidiaire, il sollicite l'annulation de l'arrêt cantonal et le renvoi de la cause à l'autorité précédente. Il assortit finalement son recours d'une requête d'effet suspensif. Il n'a pas été ordonné d'échange d'écritures. 