Faits: A. A.a K._, née en 1964, souffrant d'une lésion cérébrale subie à la naissance, est arrivée en Suisse en décembre 1983. Elle a alors été placée par ses parents, domiciliés à l'étranger, au sein de l'institution X._ à M._, où elle réside depuis lors. Le 27 novembre 2000, l'intéressée a déposé une demande d'allocation pour impotent auprès de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI). L'administration l'a rejetée par décision du 18 juillet 2001 au motif que K._ n'était pas domiciliée en Suisse, pays qui avait été choisi par ses parents uniquement pour des raisons liées à son état de santé. Le Tribunal des assurances du canton de Vaud, puis le Tribunal fédéral des assurances, ont débouté la prénommée (jugement du 3 février 2003, respectivement arrêt du 18 juin 2004 [I 270/03; ATF 130 V 404]). A.b Le 22 août 2004, K._ a sollicité le réexamen de son droit à des prestations de l'assurance-invalidité, en se fondant sur l'art. 13 al. 1 LPGA (entré en vigueur le 1er janvier 2003), aux termes duquel le domicile d'une personne est déterminé selon les art. 23 à 26 CC. Par décision sur opposition du 25 avril 2005, l'office AI a rejeté cette demande, considérant que cette modification législative était sans influence sur la jurisprudence développée par le Tribunal fédéral des assurances concernant la notion de domicile. Le Tribunal des assurances du canton de Vaud a, par jugement du 26 octobre 2007, rejeté le recours formé par K._. Dans un arrêt du 10 juin 2009 (9C_188/2008; ATF 135 V 249), le Tribunal fédéral a partiellement admis le recours de l'intéressée et renvoyé la cause à l'instance cantonale pour nouveau jugement au sens des considérants. B. Reprenant l'instruction du dossier, le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, a confié la réalisation d'une expertise aux doctoresses G._ et L._, spécialistes FMH en psychiatrie et psychothérapie auprès de la Fondation Y._. Dans un rapport du 15 juin 2011, sur lequel le Service médical régional de l'office AI (SMR) a pris position le 8 septembre suivant, ces médecins ont estimé que K._ disposait de la capacité de discernement s'agissant de la constitution d'un domicile et qu'elle avait l'intention de se fixer en Suisse et de continuer à y vivre; il n'était en revanche pas possible de déterminer à partir de quand cette volonté avait existé. Le Tribunal cantonal, par jugement du 24 avril 2012, a retenu qu'à partir du 18 juillet 2001, l'intéressée avait eu l'intention de résider en Suisse et a renvoyé la cause à l'office AI pour qu'il procède à l'examen des conditions du droit aux prestations à compter de cette date. C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à la confirmation de sa décision sur opposition du 25 avril 2005, éventuellement au renvoi de la cause au tribunal cantonal pour instruction complémentaire et nouveau jugement. K._ conclut au rejet du recours. Elle sollicite le bénéfice de l'assistance judiciaire. De son côté, l'Office fédéral des assurances sociales a renoncé à se déterminer. 