A.- Depuis le 1er décembre 1997, N._ bénéficie de prestations de l'assurance-chômage. En raison de son accouchement, le 15 mars 1999, elle a été déclarée incapable de travailler jusqu'au 10 mai 1999. Ayant recouvré dès cette date une pleine capacité de travail, elle s'est vue proposer, le 28 avril 1999, un emploi de vendeuse en alimentation par l'Office régional de placement du canton de Vaud (ci-après : l'ORP). Faute d'avoir trouvé une solution pour garder son enfant, N._ n'a pas été engagée, si bien que l'ORP a prononcé une suspension de son droit à l'indemnité de chômage de 31 jours (décision du 13 juillet 1999). Une seconde décision de suspension a été rendue par l'ORP le 14 octobre 1999 pour les mêmes motifs que la précédente. Le 20 octobre 1999, l'ORP a déclaré l'assurée inapte au placement dès le 10 mai précédent, au motif qu'elle n'était pas en mesure d'établir que la garde de son enfant serait assurée par une tierce personne. Cette décision n'ayant pas été attaquée par N._, la Caisse de chômage de la Chambre vaudoise du commerce et de l'industrie (ci-après : la caisse) a exigé de la prénommée la restitution d'un montant de 4213 fr. 30, représentant les indemnités de chômage qu'elle lui avait versées pour les mois mai et juin 1999 (décision du 10 février 2000). L'assurée a recouru contre la décision de restitution devant le Service de l'emploi du canton de Vaud (ci-après : le service de l'emploi), première instance cantonale de recours en matière d'assurance-chômage, en contestant son inaptitude au placement et en faisant valoir que c'était en toute bonne foi qu'elle avait accepté les indemnités de chômage durant la période litigieuse. Le service de l'emploi l'a déboutée par décision du 4 octobre 2000. B.- N._ a déféré cette décision au Tribunal administratif du canton de Vaud, en reprenant ses arguments développés devant le service de l'emploi. Par jugement du 31 août 2001, le tribunal a admis le recours, annulé la décision litigieuse et renvoyé la cause au service de l'emploi pour statuer à nouveau au sens de considérants. C.- Ce dernier interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation, en concluant à la confirmation de sa décision du 4 octobre 2000. N._ conclut au rejet du recours sous suite de dépens, tandis que la caisse conclut à son admission. De son côté, le Secrétariat d'Etat à l'économie a renoncé à se déterminer. 