A.- Licencié pour des raisons économiques par la société Y._ SA où il occupait un poste de vendeur, G._ a sollicité et obtenu des indemnités de chômage dès le 1er janvier 1996. Depuis cette date jusqu'au mois de septembre 1997, il n'a jamais annoncé réaliser des gains intermédiaires. Par décision du 19 janvier 1998, le Service de l'emploi de l'Office cantonal vaudois de l'assurance-chômage (ci-après : le service de l'emploi) a nié l'aptitude au placement de l'assuré du 1er janvier 1996 au 30 septembre 1997, et suspendu son droit à l'indemnité de chômage pour une durée de 18 jours dès le 1er août 1997. Cette décision se fondait sur le fait que durant la période considérée, l'intéressé avait exercé une activité indépendante pour le compte de la société X._ SA sans en informer les autorités de chômage. Par jugement du 30 mars 1999, le Tribunal administratif du canton de Vaud a partiellement admis le recours formé par G._ contre cette décision, en ce sens qu'il l'a reconnu apte au placement. Dans les considérants de son jugement, le tribunal a toutefois exposé qu'en vertu de l'art. 24 al. 3 LACI, "l'assuré ne (pouvait) prétendre qu'à la compensation de la différence entre le gain assuré et une rémunération conforme aux usages professionnels et locaux"; aussi, le dossier devait-il être renvoyé à la Caisse publique cantonale vaudoise de chômage (ci-après : la caisse) "pour qu'elle fasse déterminer la rémunération qui aurait été due, conformément auxdits usages". B.- Sur la base de ce jugement (entré en force), la caisse a rendu, le 15 septembre 1999, une décision par laquelle elle a fixé à 4200 fr. par mois le salaire hypothétique que l'assuré aurait dû réaliser au service de la société X._ SA. Cette décision n'ayant pas été attaquée en temps utile, la caisse a alors exigé de G._ la restitution d'un montant de 68 327 fr. 55, représentant les indemnités de chômage versées à tort du 1er janvier 1996 au 30 septembre 1997 (décision du 21 octobre 1999). Par acte du 11 novembre 1999, l'assuré a recouru contre les deux décisions précitées devant le service de l'emploi. Il faisait valoir qu'il n'avait pas compris la portée de la décision du 15 septembre 1999; en particulier, il ne ressortait pas clairement de cette décision que la caisse allait par la suite lui demander de rétrocéder des prestations. Il sollicitait dès lors la restitution du délai de recours. Par ailleurs, il lui était impossible de rembourser le montant réclamé. Par décision du 26 mai, le service de l'emploi a rejeté la requête en restitution du délai présenté par l'assuré et déclaré son recours contre la décision du 15 septembre 1999 irrecevable, pour cause de tardiveté; il a, en outre, suspendu l'examen du recours contre la décision de la caisse du 21 octobre 1999 jusqu'à l'entrée en force de sa propre décision. C.- Saisi d'un recours de l'assuré, le Tribunal administratif du canton a Vaud l'a rejeté par jugement du 30 janvier 2001. D.- G._ interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation. Il ne conteste pas que son recours contre la décision de la caisse du 15 septembre 1999 ne soit tardif, mais estime qu'il a droit à la restitution du délai de recours. Il demande en outre "le réexamen du calcul de la caisse de chômage sur la somme exigée en remboursement". Cette dernière s'en remet à justice, tandis que le service de l'emploi propose le rejet du recours. De son côté le Secrétariat d'Etat à l'économie ne s'est pas déterminé. 