A.- a) I._ a exercé la profession de tôlier. Souffrant de troubles auditifs (il porte un appareil), il s'est annoncé à l'assurance-invalidité le 13 juillet 1994. L'assuré a bénéficié de mesures de réadaptation d'ordre professionnel de cette assurance. Dans un premier temps, il a effectué, selon ses voeux, des stages auprès de diverses institutions du secteur social en vue d'y acquérir une formation d'aide-soignant. Ces mesures n'ont pas abouti, pour diverses raisons exposées dans un rapport intermédiaire de l'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) du 7 janvier 1999. L'administration a alors décidé d'encadrer l'intéressé dans un projet rationnel et adéquat, au besoin assorti d'une courte période de mise au courant en entreprise. Le stage de trois mois, initialement prévu à cet effet du 25 janvier au 24 avril 1999 auprès du Centre d'intégration professionnelle OSER, a également échoué, de sorte que l'office AI l'a interrompu prématurément avec effet au 26 février 1999. Dans leur rapport du 19 février 1999, les responsables du centre OSER ont notamment indiqué que l'assuré pourrait être réadapté dans un emploi de magasinier en pièces détachées pour autos, ou dans le secteur de la vente (kiosque, quincaillerie), activités pour lesquelles une mise au courant en entreprise serait nécessaire. b) L'assuré a perçu des indemnités journalières de l'AI durant son reclassement. Par décision du 5 mars 1999, l'office AI a prolongé une dernière fois son droit à l'indemnité jusqu'au 28 février 1999. Dans une seconde décision du 2 septembre 1999, l'office AI a arrêté le revenu annuel sans invalidité de I._ à 70 191 fr. Evaluant son revenu annuel d'invalide à 43 000 fr., il a constaté que le taux d'invalidité s'élevait ainsi à 38,73 %. En conséquence, l'administration a rejeté la demande de prestations, tout en réservant la prise en charge d'un stage aux frais de l'AI si l'intéressé devait trouver une place nécessitant une petite formation. B.- Alléguant que son reclassement n'était pas achevé, I._ a recouru contre la décision du 5 mars 1999 devant le Tribunal des assurances du canton de Vaud, en concluant au versement d'indemnités journalières jusqu'au terme de sa réadaptation ou jusqu'à l'octroi d'une rente. Par ailleurs, l'assuré a également déféré la décision du 2 septembre 1999 au Tribunal cantonal, en concluant au versement d'une demi-rente d'invalidité à partir du 13 juillet 1995. Il a sollicité la mise en oeuvre d'une expertise, afin de déterminer la nature des activités professionnelles qui lui sont encore ouvertes ainsi que son rendement dans celles-ci. Par jugement du 6 juillet 2000, la juridiction cantonale a rejeté la demande d'expertise et les recours, après avoir joint les causes. C.- I._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation, avec suite de dépens. Il conclut au paiement d'une rente d'invalidité dès le 13 juillet 1995, au versement d'indemnités journalières jusqu'au 31 août 1999, et renouvelle sa demande d'expertise. L'intimé conclut implicitement au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé. 