A.- a) A._ a obtenu un CFC de forestier-bûcheron en 1986. Souffrant de problèmes lombaires, il a dû cesser l'exercice de cette activité en 1989 et s'est annoncé à l'assurance-invalidité, le 23 novembre 1989. L'assuré a bénéficié de mesures de réadaptation d'ordre professionnel de l'AI, consistant en un apprentissage de vendeur qu'il a terminé avec un CFC en 1993. Par la suite, il a suivi les cours de l'Ecole X._ durant quelques mois (orientation maturité E, puis orientation commerciale), avant de commencer un apprentissage de gestionnaire de vente; en mars 1995, l'assuré a été renvoyé de l'école professionnelle pour cause d'absentéisme. Dans sa décision du 12 janvier 1996, l'Office de l'assurance-invalidité pour le canton de Vaud (l'office AI) a constaté que la formation dispensée postérieurement à l'obtention du CFC de vendeur avait échoué en raison du manque d'intérêt de l'assuré. En conséquence, l'office AI a considéré que l'intéressé avait été reclassé favorablement et mis fin à ses démarches. Quant au droit à la rente, l'administration l'a nié, dès lors que le degré d'invalidité s'élevait à 31 %. Cette décision n'a pas été attaquée. b) Le 14 septembre 1999, l'assuré a déposé une nouvelle demande de prestations. Au terme de son instruction, l'office AI a constaté que l'état de santé de l'assuré ne s'était pas aggravé et qu'il était pleinement en mesure de travailler en qualité de vendeur, activité dans laquelle il subissait désormais un manque à gagner de 23 % par rapport au revenu qu'il aurait pu obtenir comme forestier-bûcheron. Considérant en bref que des mesures professionnelles n'étaient pas indispensables et que le degré d'invalidité n'ouvrait pas droit à la rente, l'office AI a rejeté la demande de prestations (reclassement et rente), par décision du 11 septembre 2000. B.- A._ a déféré cette décision au Tribunal des assurances du canton de Vaud en concluant à la reprise des mesures de réadaptation, à la charge de l'AI. La juridiction cantonale de recours l'a débouté, par jugement du 9 février 2001. C.- A._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation, avec suite de dépens, en concluant principalement au financement, par l'AI, d'une formation de gestionnaire de vente, subsidiairement au renvoi de la cause à l'autorité cantonale pour instruction complémentaire. L'intimé conclut au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé. 