Faits: A. A._, originaire du Kosovo, est arrivé en Suisse en septembre 2007. D'avril 2008 à juillet 2008, il a travaillé au service d'un bureau d'architecture à Y._. Le 6 août 2009, il a présenté une demande de prestations de l'assurance-invalidité, en indiquant avoir été victime d'un accident de la circulation le 23 mars 2009 et être totalement incapable de travailler depuis lors. Interpellé par l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI), le Service de la population du canton de Vaud a indiqué que A._ n'était au bénéfice d'aucun titre de séjour valable, séjournant et travaillant illégalement sur le territoire vaudois depuis septembre 2007. L'intéressé avait cependant sollicité un permis de séjour pour des raisons médicales et son séjour était toléré jusqu'à droit connu sur sa demande de régularisation de séjour. L'office AI a informé l'intéressé qu'il envisageait de rejeter sa demande de rente (projet de décision du 13 décembre 2010). En bref, il considérait que A._, qui semblait s'être affilié à l'AVS/AI comme personne sans activité lucrative dès février 2010, ne réalisait pas les conditions d'assurance, parce qu'il ne comptait pas trois années au moins de cotisations au moment de la survenance de l'invalidité (soit mars 2010), même dans l'hypothèse d'une affiliation rétroactive à partir de son arrivée en Suisse. A._ a contesté ce point de vue, en invoquant notamment avoir cotisé à une assurance-vieillesse en Allemagne du 15 décembre 1991 au 15 janvier 1999 (cf. attestation de la Deutsche Rentenversicherung Z._ du 19 janvier 2011). Par décision du 23 février 2011, l'office AI a nié le droit de l'intéressé à une rente d'invalidité. Entre-temps, A._ a sollicité l'octroi de moyens auxiliaires sous la forme d'un appareillage acoustique, ce qui lui a été refusé par décision du 22 mars 2011. Les recours successifs formés par l'intéressé contre cette décision ont été rejetés par la Cour des assurances sociales du Tribunal cantonal vaudois (jugement du 14 septembre 2012, cause AI 122/11 - 302/2012) et par le Tribunal fédéral (arrêt de ce jour, cause 9C_875/2012). B. Saisi d'un recours de A._ contre cette décision, le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, l'a rejeté, par jugement du 14 septembre 2012 (cause AI 97/11 - 301/2012). C. A._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de dépens, il conclut en substance à ce que la cause soit renvoyée au Tribunal cantonal vaudois pour qu'il rende une nouvelle décision respectant son droit d'être entendu. A titre subsidiaire, il conclut à la réforme du jugement cantonal en ce sens qu'il est dit qu'il remplit en principe les conditions de l'octroi des prestations de l'assurance-invalidité demandées "selon la convention avec l'ex-Yougoslavie" et au renvoi de la cause au Tribunal cantonal vaudois pour qu'il examine si ladite convention est applicable à son cas. Le Tribunal fédéral n'a pas procédé à un échange d'écritures. 