Faits: A. X._ est accusé dans le cadre d'une procédure pénale (P/12481/01) qui l'oppose à la Banque cantonale de Genève (ci-après: la BCGe). Le 7 septembre 2010, il a saisi la Commission du barreau du canton de Genève (ci-après: la Commission du barreau). Il invoquait un conflit d'intérêts des avocats de la BCGe, A._ et B._, dans la mesure où ceux-ci exerçaient leur profession au sein d'une étude regroupant des avocats l'ayant précédemment conseillé. Par décision du 6 décembre 2010, la Commission du barreau a conclu à l'absence de conflit d'intérêts de la part de A._ et B._. Son prononcé a été notifié aux intéressés, ainsi qu'au dénonciateur. B. Par arrêt du 21 juin 2011, la Cour de justice a déclaré irrecevable le recours de X._ qui concluait à ce qu'il soit ordonné à A._ et B._ de cesser de représenter la BCGe dans la procédure pénale en cause. En substance, la Cour de justice a retenu que si l'auteur d'une dénonciation devant la Commission du barreau devait être avisé de la suite qui avait été donnée à celle-ci, il n'avait en revanche pas la qualité de partie à la procédure. Si la procédure ouverte consécutivement à une dénonciation était classée, le dénonciateur n'était pas atteint dans ses intérêts personnels. En outre, le fait que la décision de la Commission du Barreau puisse avoir une incidence sur une procédure à laquelle le dénonciateur est partie ne permettait pas non plus de considérer que celui-ci était directement touché dans ses droits et obligations. En conséquence, le refus de donner suite à une dénonciation ne pouvait faire l'objet d'aucun recours puisque le dénonciateur n'agit, dans ce cadre, que comme auxiliaire de l'autorité en déclenchant la procédure. C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 21 juin 2011 de la Cour de justice et de renvoyer la procédure à cette autorité afin qu'il soit statué sur le fond. La Commission du Barreau déclare persister dans les termes de sa décision du 6 décembre 2010 et la Cour de justice dans son arrêt du 21 juin 2011. A._ et B._ concluent à l'irrecevabilité du recours, respectivement à ce que celui-ci soit "très subsidiairement rejeté". X._ s'est déterminé sur les observations de A._ et B._. 