Faits: A. X._, domicilié à Genève, a été engagé en qualité de comptable en date du 1er juillet 2005 par Y._ SA. Parallèlement à l'exercice de sa profession , il a suivi dès janvier 2006 des cours à Lausanne en vue de l'obtention du brevet fédéral de spécialiste en finance et comptabilité. Le 26 août 2008, il a résilié son contrat de travail pour le 31 décembre 2008. Il a obtenu le brevet convoité en date du 29 avril 2009. Dans sa déclaration fiscale 2006, X._ a déduit de son revenu, à titre de frais de perfectionnement, de reconversion ou de réinsertion liés à la fréquentation de ces cours, un montant de 8'010 fr. 90, correspondant à des frais de matériel (1'214 fr. 40), de transport (1'830 fr. 50) et de repas (966 fr.). Après avoir recueilli certains renseignements complémentaires de la part du contribuable, l'Administration fiscale cantonale du canton de Genève (ci-après: l'Administration fiscale cantonale ou le fisc) lui a notifié le 2 août 2007 deux décisions de taxation, l'une pour les impôts cantonaux et communaux, l'autre pour l'impôt fédéral direct, refusant toute déduction au titre de frais de perfectionnement. Suite à la réclamation de l'intéressé du 22 août 2007, qui ne précisait pas si elle concernait la taxation des impôts cantonaux et communaux et/ou celle de l'impôt fédéral direct, l'Administration fiscale cantonale, par décision du 15 octobre 2007, a maintenu les taxations litigieuses. B. Par acte du 13 novembre 2007, X._ a interjeté recours auprès de la Commission cantonale de recours en matière d'impôts du canton de Genève, devenue depuis le 1er janvier 2009 la Commission cantonale de recours en matière administrative (ci-après: la Commission cantonale de recours), en omettant à nouveau de spécifier si son recours portait sur les impôts cantonaux et communaux ou sur l'impôt fédéral direct. Statuant par décision du 4 mars 2009, la Commission cantonale de recours a rejeté le recours relatif aux impôts cantonaux et communaux, sans se prononcer sur l'impôt fédéral direct. Elle a considéré que les frais de perfectionnement professionnels n'étaient déductibles qu'en présence d'un rapport direct entre la formation entreprise et l'activité professionnelle exercée, soit dans l'hypothèse où le perfectionnement portait sur des connaissances utilisées dans le cadre de la profession, mais ne l'était pas lorsque, comme en l'espèce, la formation permettait de se spécialiser en acquérant de nouvelles connaissances. C. Saisi d'un recours dirigé contre la décision de la Commission cantonale de recours du 14 mars 2009, le Tribunal administratif du canton de Genève, (ci-après: le Tribunal administratif) l'a rejeté, par arrêt du 24 novembre 2009. Limitant son examen à la seule application du droit cantonal - sur la foi de l'indication de l'Administration fiscale cantonale, dont on peut se demander si elle est réellement fondée, selon laquelle la Commission cantonale de recours se prononcerait encore sur la taxation 2006 du contribuable au plan de l'impôt fédéral direct -, il a retenu en substance que les frais litigieux n'étaient pas déductibles aux motifs qu'ils auraient vraisemblablement permis à l'intéressé d'obtenir une promotion auprès de Y._ SA s'il n'avait pas quitté cette société et qu'ils n'avaient pas seulement pour but de maintenir ses connaissances professionnelles et son revenu, mais de pouvoir assumer une fonction supérieure et réaliser un revenu plus élevé. En outre, l'intéressé n'avait pas démontré à satisfaction qu'il était victime d'une inégalité de traitement par rapport à d'autres contribuables ayant suivi la même formation. D. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, principalement, d'admettre en déduction les frais de perfectionnement invoqués, à concurrence de 5'000 fr., subsidiairement, de déclarer que les renseignements obtenus par le Tribunal administratif de la part de Y._ SA l'ont été en violation du principe de l'égalité et que le Tribunal administratif a violé les principes de l'égalité de traitement et de l'interdiction de l'arbitraire. Le Tribunal administratif renonce à formuler des observations et persiste dans les considérants et le dispositif de l'arrêt entrepris. L'Administration fiscale cantonale et l'Administration fédérale des contributions concluent au rejet du recours. 