Faits: A. En avril 2008, X._ s'est présenté pour la troisième fois aux examens d'avocat du canton de Vaud. Le rapport établi par la Commission d'examens pour l'obtention du brevet d'avocat (ci-après: la Commission d'examens) à propos de cette session comprend notamment l'énoncé des questions, la présentation de ce qui était attendu des candidats ainsi que l'appréciation du travail de chacun d'eux. Après avoir commenté les réponses formulées par l'intéressé, la Commission d'examens lui a attribué les notes 7,5 pour la rédaction de la requête en procédure civile, 5,5 pour la consultation de droit privé, 6,5 pour celle de droit public, 3 pour celle de droit pénal et 6 pour l'oral, ce qui donnait une moyenne de 5,7. Le seuil de suffisance étant fixé à 6, elle a proposé à la Cour administrative du Tribunal cantonal vaudois (ci-après: la Cour administrative) de ne pas accorder le brevet d'avocat à l'intéressé. Par décision du 18 avril 2008, la Cour administrative a refusé de délivrer le brevet d'avocat à X._. B. Par mémoire du 9 mai 2008, l'intéressé a déféré cette décision à la Cour de droit administratif et public du Tribunal cantonal, en concluant en définitive à l'octroi du brevet d'avocat. Il s'est plaint de l'appréciation portée par la Commission d'examens sur ses prestations dans les matières où il a obtenu une note insuffisante et a requis une note non inférieure à 4,5 s'agissant de la consultation écrite en droit pénal et non inférieure à 6 pour la consultation écrite sur une question de droit privé. Il a également soulevé divers griefs de nature procédurale. Subsidiairement, il requérait l'annulation de la décision et, spécifiquement, de la note 3 obtenue dans la consultation écrite en matière de droit pénal et demandait à être autorisé à se représenter à cette épreuve. Par courrier du 18 juin 2008, la Cour administrative a renoncé à déposer une détermination formelle, tout en se référant à la décision attaquée et en concluant au rejet du recours. La Commission d'examens a produit son rapport complet et, sans se déterminer, a égale-ment conclu au rejet du recours. A sa demande, le recourant a reçu le dossier de la cause pour consultation. Le 27 janvier 2009, sur requête du juge instructeur, la Commission d'examens a produit les épreuves manuscrites relatives aux questions de droit privé et de droit pénal des autres candidats à la deuxième session des examens d'avocat 2008. Le 4 août 2009, l'épreuve anonymisée et dactylographiée du candidat ayant obtenu, avec la note de 4,5, le deuxième moins bon résultat de tous les candidats, a été communiquée au recourant. Le 1er septembre 2009, le recourant s'est déterminé sur cet élément et a produit un avis de droit du professeur B._, du 20 août 2009, relatif à l'application de l'art. 183 CP dans le cas soumis aux candidats. Entre-temps, le 21 août 2009, X._ s'est plaint d'une violation de l'art. 29 al. 4 de la loi vaudoise du 24 septembre 2002 sur la pro-fession d'avocat (LPav; RS/VD 177.11), motif pris que le juge cantonal A._, vice-président de la Commission d'examens, avait représenté la Cour administrative dans la procédure de recours devant la Cour de droit administratif et public du Tribunal cantonal (ci-après le Tribunal cantonal ou l'autorité précédente). Le recourant n'a formulé aucune conclusion, se bornant à soulever ce qui, à ses yeux, constituait la violation d'une règle essentielle. C. Par arrêt du 15 octobre 2009, le Tribunal cantonal a rejeté le recours en rappelant qu'il n'entre en matière sur une requête de rectification de note pour en fixer librement une nouvelle que lorsque le recourant soulève un grief tel que la note attribuée apparaît manifestement inexacte, au regard de la question posée par l'expert et de la réponse donnée. La juridiction cantonale dispose certes d'un libre pouvoir d'examen de la légalité, incluant l'abus et l'excès du pouvoir d'appréciation, mais s'impose une certaine retenue pour revoir l'appréciation de la Commission d'examens. Après une étude approfondie des motifs de la Commission d'examens et des griefs de l'intéressé, elle a constaté que les notes attribuées ne procédaient pas d'un abus du pouvoir d'appréciation et que les griefs d'ordre procédural étaient infondés. D. Agissant par la voie du recours en matière de droit public, l'intéressé demande principalement au Tribunal fédéral d'annuler l'arrêt rendu le 15 octobre 2009 et de lui attribuer une note non inférieure à 4,5 dans la consultation en matière de droit pénal ainsi que de lui décerner le brevet d'avocat vaudois. Subsidiairement, il requiert l'annulation de la note 3 pour la consultation en matière de droit pénal et demande à être autorisé à se présenter une nouvelle fois aux examens d'avocat sur cette seule matière. Plus subsidiairement, il requiert l'annulation du jugement et le renvoi à l'autorité précédente pour nouveau jugement dans le sens des considérants. Le Tribunal cantonal et la Commission d'examens concluent au rejet du recours. 