A.- H._ a travaillé de 1988 à 1995 en qualité de ferrailleur au service de l'entreprise L._, à A._. De juin 1998 à mars 1999, il a travaillé à 50 pour cent au service de la commune d'Y. _, dans le cadre d'un programme d'occupation destiné aux chômeurs. Le 28 août 1998, H._ a présenté une demande de rente de l'assurance-invalidité. Son médecin traitant, le docteur V._, médecin-généraliste, a posé à l'intention de l'Office de l'assurance-invalidité pour le canton de Vaud le diagnostic de troubles psychiatriques et de status après épisode d'angor instable en avril 1998 sur maladie coronarienne monotronculaire. Il a signalé que le patient était suivi par le Centre psycho-social d'Y. _ (ci-après : le CPS). Il a précisé qu'il n'y avait "actuellement" pas d'incapacité de travail pour des raisons somatiques (rapport du 25 septembre 1998). Le CPS a établi un rapport détaillé le 22 décembre 1998. Il a posé le diagnostic de "troubles de l'humeur persistants sans précision" (F34. 9) et de "troubles de la personnalité type limite" (F60. 31). Il a relevé chez le patient des facteurs de stress psychosociaux sévères provenant d'une dislocation familiale, d'une rupture sentimentale et conjugale (avec un enfant), ainsi que de difficultés socioprofessionnelles importantes à trouver un travail adapté à son état de santé. Les médecins du CPS signalent que l'assuré a été hospitalisé le 28 août 1998 en raison d'une symptomatologie dépressive accentuée, avec tristesse, passivité, isolement, troubles du sommeil, cauchemars, nervosité et difficultés à exprimer ses émotions. Ils déclarent se rallier à l'avis du docteur V._ quand ce dernier indique qu'une éventuelle invalidité n'est pas liée aux problèmes cardiaques présentés par le patient en avril 1998. En conclusion, ces mêmes médecins préconisent en faveur de l'assuré le versement d'une rente d'invalidité assortie éventuellement d'un programme de réadaptation professionnelle. Par décision du 27 décembre 1999, l'office de l'assurance-invalidité a rejeté la demande de l'assuré, au motif que ce dernier ne souffrait pas d'une atteinte à la santé invalidante entraînant une incapacité de travail et de gain dans une activité adaptée. B.- Statuant le 28 juillet 2000, le Tribunal des assurances du canton de Vaud a rejeté le recours formé contre cette décision par l'assuré. C.- Contre ce jugement, H._ interjette un recours de droit administratif dans lequel il conclut au versement d'une rente entière et, subsidiairement, à la mise en oeuvre d'une expertise médicale afin d'évaluer ses possibilités de travailler et de déterminer son taux d'invalidité. Il demande, par ailleurs, à être mis au bénéfice de l'assistance judiciaire. L'office de l'assurance-invalidité conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il ne s'est pas déterminé à son sujet. 