Faits: A. Le 13 décembre 2009 à 5 h 30, A._ circulait à vélo lorsque X._ l'a agressé. Celui-ci lui a asséné un "coup de boule", a piétiné son vélo puis lui a donné des coups de poing à la tête et sur le corps, des coups de pied à la jambe droite et des coups de genou au niveau des reins. A._ a reçu plus d'une soixantaine de coups sur le corps, a souffert de nombreuses blessures et s'est trouvé en incapacité de travail jusqu'au 28 décembre 2009. Interpellé par la police une heure après les faits, X._ présentait une alcoolémie de 1.97 o/oo mais ne vacillait pas sur ses jambes, s'exprimait aisément et se souvenait des détails de la soirée. Une pleine responsabilité a été retenue. B. Par jugement du 2 septembre 2011, le Tribunal de police du canton de Genève a condamné X._, pour lésions corporelles simples et dommages à la propriété, à une peine privative de liberté de 2 mois. Statuant sur l'appel de X._, la Chambre pénale d'appel et de révision de la Cour de justice genevoise l'a rejeté par arrêt du 2 janvier 2012. C. X._ forme un recours en matière pénale au Tribunal fédéral contre cet arrêt et conclut, sous suite de dépens, à sa réforme en ce sens qu'il est condamné à une peine pécuniaire de 60 jours, respectivement à un travail d'intérêt général de 240 heures. La Chambre pénale d'appel et de révision a déclaré n'avoir pas d'observations à formuler et le Ministère public ne s'est pas déterminé. 