Faits: A. Par contrat du 1er septembre 2008, X._, domiciliée à Genève, a été engagée par Y._ Sàrl pour travailler en qualité de conseillère de vente au magasin de vêtements Y._ à Genève. Le 1er avril 2009, X._ a été promue assistante responsable de rayon. Par pli recommandé du 28 juillet 2010, Y._ Sàrl a adressé à X._ une résiliation ordinaire du contrat avec effet au 30 septembre 2010, en la libérant immédiatement de son obligation de travailler. L'employée ayant demandé les motifs de la résiliation, il lui a été répondu, le 3 septembre 2010, que son licenciement avait été décidé à la suite des événements d'avril 2010. Il était reproché à l'employée d'avoir violé, le 21 avril 2010, les règles de procédure de la société en acceptant, en l'absence d'un responsable, d'échanger une robe à sa soeur sans que celle-ci ne présente de ticket de caisse. Il était également reproché à l'employée d'avoir, le 23 avril 2010, procédé à des interventions en caisse, ce qui lui était interdit en sa qualité d'assistante, puisqu'elle devait attendre la présence d'une caissière principale pour servir la clientèle. L'employeur s'est référé en particulier à une déclaration rédigée de la main de l'employée le 29 avril 2010 lors d'un entretien avec le directeur de la société, déclaration dans laquelle elle reconnaissait les faits. X._, qui a fait une dépression à la suite de cet entretien et qui a été hospitalisée jusqu'à la mi-juin 2010, a contesté les reproches qui lui étaient adressés, soutenant que le congé lui avait été donné en réalité parce qu'elle ne s'entendait pas avec sa supérieure directe et que l'employeur n'avait pas fait ce que l'on pouvait attendre de lui pour désamorcer le conflit. B. Par demande parvenue au greffe de la Juridiction des prud'hommes du canton de Genève le 8 novembre 2010, X._ a introduit une action en paiement contre Y._ Sàrl, réclamant à cette dernière la somme de 20'640 fr. bruts, avec intérêts à 5 % dès le 30 septembre 2010, correspondant à six mois de salaire à titre d'indemnité pour licenciement abusif. Y._ Sàrl s'est opposée à la demande en totalité. Après avoir recueilli les pièces déposées par les parties et entendu différents témoins, le Tribunal des prud'hommes, par jugement du 28 juillet 2011, a rejeté la demande formée par X._. Saisie d'un appel formé par l'employée, la Chambre des prud'hommes de la Cour de justice du canton de Genève, par arrêt du 20 février 2012, a confirmé le jugement attaqué. C. X._ exerce un recours en matière civile au Tribunal fédéral. Invoquant l'arbitraire (art. 9 Cst.) dans l'appréciation des preuves et l'établissement des faits, ainsi qu'une violation de l'art. 336 CO, elle conclut à l'annulation de l'arrêt attaqué et à la condamnation de sa partie adverse à lui payer la somme de 20'640 fr. avec intérêts à 5 % l'an dès le 30 septembre 2010. Subsidiairement, elle demande le renvoi de la cause à l'autorité précédente. La société intimée, qui n'est pas assistée d'un avocat, a présenté des observations concluant à la confirmation de l'arrêt entrepris. 