A.- Souffrant de graves problèmes de la vue, P._, séparé, a présenté, le 15 mars 1999, une demande d'allocation pour impotent à la Caisse de compensation des médecins, dentistes et vétérinaires, à Saint-Gall (ci-après : la caisse). Dans un rapport du 17 juin 1999, le docteur A._, spécialiste en ophtalmologie, a diagnostiqué une pseudophakie à l'oeil gauche, une cataracte débutante à l'oeil droit, un glaucome à stade avancé ddc, un status post-thrombose de la veine centrale à l'oeil droit avec acuité visuelle réduite à l'oeil gauche et un champ visuel extrêmement restreint également à l'oeil gauche en raison d'un glaucome avancé. Il a précisé que le prénommé, d'un point de vue oculaire, avait certainement de grandes difficultés à lire et à s'orienter du fait d'un champ visuel pratiquement éteint aux deux yeux. Dans un rapport du 4 novembre 1999, l'assistante sociale B._ a constaté que l'assuré était autonome pour tous les actes ordinaires de la vie, sauf les déplacements à l'extérieur, et qu'il courait des dangers lorsqu'il prenait son bain seul. Par décision du 2 décembre 1999, fondée sur un projet de décision du 12 novembre 1999 de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : OAI), la caisse a rejeté la demande d'allocation pour impotent formée par P._. B.- Le prénommé a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud en concluant à l'octroi d'une allocation pour impotent. Dans le cadre de l'instruction a été produit, notamment, un rapport du 10 mars 2000 du docteur C._, spécialiste en médecine interne. Par jugement du 24 août 2000, la cour cantonale a rejeté le recours de l'assuré. C.- P._ interjette recours de droit administratif contre ce jugement, dont il demande implicitement l'annulation, en concluant à l'octroi d'une allocation pour impotence grave ou moyenne. La caisse s'est abstenue de toute proposition, en soulignant que l'examen des conditions mises à l'octroi d'une allocation pour impotent n'entre pas dans sa compétence, mais dans celle de l'OAI. Invité par la Cour de céans à se prononcer sur le recours, l'OAI du canton de Vaud déclare n'avoir aucune remarque à formuler. L'Office fédéral des assurances sociales ne s'est pas déterminé. 