Faits: A. X._, né en 1988, a étudié au collège B._ de Genève dès le mois de septembre 2003. Après avoir redoublé sa première (2003-2004) et sa troisième année de scolarité (2007-2008), il s'est retrouvé en échec à la fin de celle-ci (en juin 2008) et s'est inscrit à l'Ecole de culture générale A._ dans le but d'obtenir un certificat de culture générale, option santé. Il a été directement admis dans le troisième et dernier degré de la rentrée scolaire 2008. Au terme de son année scolaire (2008-2009), il n'a pas obtenu le certificat visé, quatre moyennes étant insuffisantes, à savoir les activités artistiques (3,9), la biologie (3,9), la chimie (3,8) et la psychologie (3,9). La note des activités artistiques correspondait, par équivalence, à celle précédemment obtenue dans cette même branche en deuxième année du collège B._. Suite à cet échec, le Conseil de direction de l'Ecole A._ l'a avisé qu'il lui avait accordé la possibilité de redoubler sa troisième année. Le 23 juillet 2009, X._ a saisi la Direction générale de l'enseignement secondaire post-obligatoire (ci-après: la Direction générale) d'un recours "contre la décision du conseil de classe contre une éventuelle dérogation", en demandant qu'on le mette au bénéfice d'une "promotion, même par dérogation". Par décision du 21 août 2009, le Conseiller d'Etat en charge du Département de l'instruction publique du canton de Genève, devenu depuis lors le Département de l'instruction, de la culture et du sport (ci-après: le Département cantonal), a signifié à l'intéressé que le certificat de culture générale ne pouvait pas lui être accordé par dérogation, dans la mesure où il n'en remplissait pas les conditions d'obtention. B. X._ a recouru contre la décision précitée du Département cantonal. Il s'est prévalu de l'art. 21 al. 2 du règlement de l'enseignement secondaire du 14 octobre 1988 (RES; RS-GE, C 1 10.24) prévoyant que la direction d'un établissement pouvait, à certaines conditions, accorder une "promotion par dérogation". Il critiquait également le calcul des notes et le fait que la note des activités artistiques, qui avait été reprise par équivalence du collège B._ n'avait, contrairement à une "pratique constante" prétendument en cours dans les collèges genevois, pas été arrondie à la moyenne supérieure (4 au lieu de 3,9). Enfin, il se plaignait d'une violation de son droit d'être entendu. Par arrêt du 3 février 2010, le Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif) a rejeté le recours. Il a nié toute violation du droit d'être entendu et rappelé que seule était envisagée par la disposition réglementaire invoquée une promotion par dérogation, mais en aucun cas l'octroi d'un diplôme par dérogation. Par ailleurs, au risque de contrevenir au principe de l'égalité de traitement, il n'était pas possible d'arrondir à la moyenne supérieure les notes obtenues au collège B._. C. X._ forme un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre l'arrêt précité du Tribunal administratif. Il se plaint de violation du droit d'être entendu (art. 29 al. 2 Cst.), d'arbitraire (art. 9 Cst.) et d'inégalité de traitement (art. 8 Cst.). Il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué et, subsidiairement, à l'octroi de "son diplôme de culture générale et ce conformément à la législation cantonale". Il requiert également le bénéfice de l'effet suspensif. Le Tribunal administratif déclare persister dans les considérants et le dispositif de son arrêt et s'en rapporte à justice quant au sort de la requête d'effet suspensif. Par ordonnance du 29 avril 2010, le Président de la IIe Cour de droit public du Tribunal fédéral a rejeté la requête d'effet suspensif, considérée comme une requête de mesures provisionnelles. 