Faits : A. X._ SA est une entreprise sise à Genève, qui a pour but l'acquisition, la réalisation, la gérance l'administration et le contrôle de biens et capitaux dans les affaires financières, industrielles et commerciales. Le 18 avril 2008, l'Administration fiscale cantonale genevoise (ci-après: l'Administration cantonale) a ouvert à son encontre une procédure en rappel d'impôt et une procédure pénale pour soustraction d'impôt concernant tant l'impôt cantonal et communal (ci-après: l'ICC) que l'impôt fédéral direct (ci-après: l'IFD) pour les périodes 2001 et 2002. Cette procédure a été clôturée le 20 mai 2009 et des bordereaux rectificatifs de taxation définitive émis. L'Administration cantonale a arrêté les suppléments dus par l'entreprise à 1'011,50 fr. et à 1'538,50 fr. en matière d'IFD pour, respectivement, 2001 et 2002, alors que les suppléments ICC pour ces mêmes périodes se montaient à 2'791,55 fr. et à 4'250,90 fr., plus les intérêts. Des amendes de 1'912 fr. pour l'IFD et de 5'281 fr. pour l'ICC, correspondant à 0,75 fois le montant des impôts soustraits ont en outre été prononcées. Par décisions du 21 décembre 2009, faisant suite à la réclamation formée par X._ SA, l'Administration cantonale a modifié la taxation 2002 de la contribuable en sa défaveur, ajoutant 15'403 fr. au bénéfice imposable IFD et ICC pour cette période; elle a en revanche maintenu la taxation 2001, ainsi que la quotité de l'amende dont le montant était calculé sur les taxations rectifiées. Les recours formés par X._ SA contre ces décisions ont été rejetés par le Tribunal administratif de première instance du canton de Genève (ci-après: le Tribunal de première instance) par jugement du 14 novembre 2011. Le collège des juges qui a statué était formé de A._, présidente, B._ et C._, juges assesseurs. Ce premier jugement a été annulé, le 18 décembre 2012 par la Chambre administrative de la Cour de justice genevoise (ci-après: la Cour de justice), en raison d'un motif de récusation touchant le juge C._. La cause a été renvoyée au Tribunal de première instance pour qu'il siège dans une nouvelle composition et statue à nouveau sur le litige. B. Par jugement du 4 mars 2013, rendu par A._, présidente, B._ et D._, juges assesseurs, le Tribunal de première instance a rejeté le recours de X._ SA. Cette dernière a saisi la Cour de justice du canton de Genève, en demandant la constatation de la nullité, subsidiairement l'annulation du jugement du 4 mars 2013, la cause devant être jugée dans une nouvelle composition. Plus subsidiairement, elle a repris sur le fond ses conclusions et ses motifs invoqués devant la juridiction de première instance. Par arrêt du 10 décembre 2013, la Chambre administrative de la Cour de justice a rejeté le recours et mis un émolument de 3000 fr. à la charge de X._ SA. Constatant qu'il n'y avait pas lieu de remettre en cause l'impartialité des juges qui avaient rendu le jugement contesté, que ce soit au plan subjectif ou objectif, elle a retenu que les reprises effectuées par l'Administration cantonale étaient justifiées et qu'en conséquence, les amendes litigieuses devaient aussi être confirmées. C. A l'encontre de l'arrêt du 10 décembre 2013, X._ SA forme un recours en matière de droit public au Tribunal fédéral pour violation des art. 6 CEDH et 30 Cst. Elle conclut, sous suite de frais et dépens, à l'admission de son recours, à l'annulation de l'arrêt attaqué, à ce que la cause soit renvoyée au Tribunal de première instance, le jugement rendu le 4 mars 2013 étant déclaré nul, subsidiairement annulé. A titre encore plus subsidiaire, elle demande le renvoi de la cause à la Cour de justice, afin que celle-ci rende un nouveau jugement dans le sens des considérants. La Cour de justice n'a formulé aucune observation, persistant dans les considérants et le dispositif de son arrêt. L'Administration cantonale a présenté des déterminations en concluant au rejet du recours. X._ SA a pris position sur la jurisprudence mentionnée par l'autorité administrative. 