Faits: A. A.a G._ travaillait depuis 1985 comme ouvrière dans une fabrique de cartonnages. Après avoir subi un premier accident en 1994, qui a entraîné des lésions à la main droite et différentes périodes d'incapacité de travail, elle a été victime d'un second accident affectant sa main gauche, le 3 juillet 2002, qui l'a empêchée de travailler jusqu'au 18 novembre 2002. Elle a repris son activité à mi-temps du 19 novembre 2002 jusqu'au début de l'année 2004. En arrêt complet de travail à partir du 4 mars 2004, elle n'a plus retravaillé depuis lors et les rapports de travail ont pris fin le 30 juin suivant. Entre-temps, le 31 mars 2003, G._ a présenté une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une rente. L'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a pris des renseignements économiques et médicaux avant de nier, par décision du 16 novembre 2005, le droit de l'assurée à une rente, au motif que le taux d'invalidité (de 19 %) était insuffisant pour ouvrir le droit à une telle prestation. Contestant cette décision, l'intéressée a produit des rapports médicaux des docteurs C._, spécialiste en médecine interne, oncologie et hématologie (du 13 mars 2006), P._, spécialiste en chirurgie plastique, reconstructive et esthétique et en chirurgie de la main (du 3 avril 2006), et M._, spécialiste en médecine interne et rhumatologie (du 12 avril 2006), qu'elle avait tous trois consultés à différentes reprises. Le 2 mai 2007, l'office AI a rejeté l'opposition de G._. A.b Le jugement rendu le 8 avril 2008 par le Tribunal des assurances du canton de Vaud (aujourd'hui, Tribunal cantonal du canton de Vaud, Cour des assurances sociales) à la suite du recours de l'assurée a été annulé par le Tribunal fédéral, de même que la décision sur opposition; le Tribunal fédéral a renvoyé la cause à l'office AI pour instruction complémentaire au sens des considérants et nouvelle décision (arrêt 9C_434/2008 du 1er novembre 2008). Mandaté par l'office AI pour une expertise, le docteur S._, spécialiste FMH en rhumatologie et médecine interne, a examiné l'assurée. Dans son rapport du 26 mars 2009, il a diagnostiqué une rhizarthrose bilatérale avec arthrose nodulaire des doigts (Heberden), une arthrose radio-carpienne bilatérale, des cervico-lombalgies chroniques aspécifiques (discopathie L5-S1 et discopathies C5-C6 et C6-C7, spondylose cervicale et lombaire modérée), des gonalgies bilatérales dans le cadre d'une gonarthrose débutante et des omalgies bilatérales dans le contexte d'une tendinopathie chronique du sus-épineux des deux côtés avec conflit antéro-supérieur bilatéral. Faisant état de limitations fonctionnelles présentées par l'assurée, il a conclu à une capacité de travail de 50 % dans le travail habituel depuis le mois d'octobre 2001, puis de 40 % en 2009, ainsi que de 70 % dans une activité adaptée. Après avoir requis l'avis de son Service médical régional (SMR), l'office AI a derechef rendu une décision, le 22 janvier 2010, par laquelle il a nié le droit de l'assurée à une rente d'invalidité. B. G._ a recouru contre cette décision devant le Tribunal cantonal vaudois, en se référant notamment, en cours de procédure, à un avis du docteur E._, spécialiste FMH en médecine interne et médecin traitant, du 27 octobre 2010. Le Tribunal a entendu des témoins, puis posé des questions complémentaires au docteur S._, qui y a apporté une réponse par courrier du 26 août 2011. Statuant le 17 août 2012, le Tribunal a débouté l'assurée. C. Agissant par la voie du recours en matière de droit public, G._ demande au Tribunal fédéral de réformer le jugement cantonal. Elle conclut principalement à ce que lui soit allouée une demi-rente d'invalidité du 1er mars 2002 au 30 avril 2004, puis une rente entière, voire, subsidiairement, une rente d'un degré et d'un montant que la justice dira, à partir du 1er mai 2004, assorties d'intérêts à 5 % l'an. Plus subsidiairement encore, elle conclut à l'annulation du jugement cantonal et au renvoi de la cause à la juridiction cantonale pour nouvelle instruction et nouvelle décision. L'office AI a conclu au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. 