Faits: A. Originaire du Kosovo, S._ est arrivé en Suisse en juin 1998 et y a déposé une demande d'asile. Souffrant d'un cancer de la gorge (carcinome supraglottique) diagnostiqué le 17 septembre 1998, il a subi le 18 février suivant une laryngectomie totale avec pose d'une prothèse pour la voix. Renvoyé de Suisse en juillet 2000, il y est revenu en novembre de la même année et a été mis au bénéfice d'une admission provisoire (permis F) le 6 mars 2001. Il n'a jamais exercé d'activité lucrative en Suisse. Le 12 mai 2005, S._ a présenté une demande de prestations de l'assurance-invalidité. Après avoir recueilli des rapports médicaux, l'Office de l'assurance-invalidité pour le canton de Vaud a rejeté la demande par décision du 20 décembre 2007. Il a nié le droit de l'intéressé à une rente ordinaire et extraordinaire parce qu'il disposait d'une pleine capacité de travail et donc de gain dans toute activité respectant certaines limitations et qu'il ne remplissait pas (pour la rente ordinaire) la condition de la durée minimale de cotisation d'une année à l'assurance-invalidité suisse lors de la survenance de l'invalidité. B. Statuant le 22 mars 2010 sur le recours formé par S._ contre cette décision, le Tribunal cantonal, Cour des assurances sociales, du canton de Vaud l'a rejeté. C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais, il conclut, principalement, à l'octroi d'une rente extraordinaire et, à titre subsidiaire, au renvoi de la cause à l'autorité de recours de première instance pour instruction complémentaire sous la forme d'une expertise médicale et nouvelle décision au sens des considérants. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire. L'Office de l'assurance-invalidité pour le canton de Vaud n'a aucune remarque à formuler au sujet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer. 