Faits: A. L'Etat de Genève a mis au concours des travaux de construction (carrelages) liés aux travaux de rénovation, de transformations et d'agrandissement du site d'orientation A._ sis à B._ (GE). Les conditions d'adjudication précisaient notamment que la communauté de soumissionnaires n'était pas admise. Le dossier d'appel d'offres précisait, sous le titre "Associations de bureaux ou consortium d'entreprises" (chiffre 3.6), que "l'association d'entreprises n'est pas autorisée". Le 26 mai 2009, une offre a été déposée conjointement par X._ SA et C._ SA. Le timbre humide de cette dernière figurait sur plusieurs pages de l'offre. Y figurait aussi la signature du responsable de celle-ci. L'annexe P4 indiquait que les deux entreprises étaient associées à raison de 50% chacune. Les travaux ont été adjugés à la société Y._ SA; l'un des soumissionnaires a été d'emblée écarté alors que le consortium X._ SA et C._ SA a terminé en troisième position des quatre candidats ayant présenté une offre recevable. Le 14 septembre 2009, X._ SA a recouru contre cette décision d'adjudication auprès du Tribunal administratif du canton de Genève (ci-après: le Tribunal administratif). Le 16 octobre 2009, la Présidente du Tribunal administratif a rejeté la requête de restitution d'effet suspensif et, le 3 novembre 2009, le contrat a été conclu avec la société Y._ SA. Le 2 mars 2010, le Tribunal administratif a jugé le recours irrecevable. En substance, il a considéré que, formant un consortium, les entreprises X._ SA et C._ SA devaient agir conjointement auprès du Tribunal administratif. L'existence d'un consortium n'était pas discutable au regard des documents contractuels remplis par ces deux sociétés et, notamment, de l'annexe P4 qui indiquait que les deux entreprises étaient associées à 50% chacune. B. Par écriture du 22 avril 2010, X._ SA a déposé un recours en matière de droit public auprès du Tribunal fédéral. Elle conclut à l'annulation de l'arrêt entrepris et au renvoi de la cause au Tribunal administratif afin qu'il statue sur le fond du litige, sous suite de dépens. Elle fait valoir en substance que les faits ont été établis de manière arbitraire, que le Tribunal administratif a appliqué arbitrairement l'art. 60 de la loi genevoise du 12 septembre 1985 sur la procédure administrative (LPA/GE; RSGE E 5 10), qu'il a violé le principe de la bonne foi et son droit d'être entendue. Appelé à se déterminer sur cette écriture, le Tribunal administratif a déclaré s'en remettre à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. Le Département des constructions et des technologies de l'information du canton de Genève, par son Conseiller d'Etat, a conclu à l'irrecevabilité du recours alors que la société Y._ SA a renoncé à déposer une réponse au recours et s'en est rapportée à justice. 