A.- R._, a travaillé en qualité d'aide-étancheur au service de l'entreprise X._. Atteint de cataracte bilatérale, il a été mis au bénéfice de prestations de l'assurance-invalidité du 16 janvier au 5 juin 1996. Le 13 novembre 1996, R._ a rempli un questionnaire en vue d'un nouvel examen de son droit aux prestations de l'assurance-invalidité, en requérant l'allocation d'une rente d'invalidité. L'Office de l'assurance-invalidité pour le canton de Vaud a confié une expertise à la Policlinique Y._. Dans un rapport du 11 juin 1998, le professeur A._ et la doctoresse B._ ont posé les diagnostics de troubles somatoformes douloureux chroniques chez une personne immigrée, de status post cure de cataracte congénitale bilatérale en 1996, de status post vagotomie sélective pour ulcus duodénal en 1992, de status post trois cures d'hémorroïdes (de 1979 à 1995) et de status post sinusite etmoïdo-maxillaire en 1997. Tenant compte de la nature du diagnostic, ils évaluaient la capacité de travail raisonnablement exigible à 80 % au moins dans une activité telle que celle exercée auparavant, ce qui impliquait un réentraînement au travail avec l'appui tant des médecins que des services sociaux. Par décision du 20 juillet 1998, l'office AI a rejeté la demande du 13 novembre 1996. B.- R._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant à l'octroi d'une rente. Par jugement incident du 17 février 2000, déféré au Tribunal fédéral des assurances (cf. arrêt du 6 décembre 2000, I 306/00), la juridiction cantonale a refusé d'ordonner une expertise psychiatrique. Statuant au fond le 16 février 2001, le Tribunal des assurances a rejeté le recours. A cette occasion, il a précisé que l'assuré pouvait bénéficier d'une aide au placement de la part de l'AI, eu égard aux difficultés qu'il serait susceptible de rencontrer dans la recherche d'un emploi lui permettant de mettre en valeur sa capacité résiduelle de gain de 80 %. C.- R._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation, avec suite de dépens, en concluant implicitement à l'allocation d'une demi-rente d'invalidité. Il requiert la mise en oeuvre d'expertises médicales et sollicite par ailleurs le bénéfice de l'assistance judiciaire. L'intimé conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé. 