Faits : Faits : A. S._, né le 5 février 1960, a travaillé en qualité de maçon au service de l'entreprise de maçonnerie X._ Sàrl. Le 25 juillet 1996, il a présenté une demande de prestations de l'assurance-invalidité. Dans un rapport médical du 10 août 1996, le docteur A._ a posé le diagnostic de syndrome lombo-vertébral sur hernie discale médiane et paramédiane gauche en L5-S1, de dyspepsie non-ulcéreuse et de lésion hépatique non investiguée. Il indiquait que le patient présentait une incapacité totale de travail depuis le 7 mai 1996 dans son métier de maçon. L'assuré est entré en stage au COPAI de Z._ dès le 10 novembre 1997, pendant quatre semaines. Selon le rapport d'observation professionnelle du 19 janvier 1998, S._, peu limité dans sa gestuelle et gardant de bonnes capacités physiques de travail dans des activités légères, devrait pouvoir faire face à des activités légères avec des rendements de l'ordre de 75 %. Sur cette base, l'Office de l'assurance-invalidité pour le canton de Vaud, dans un rapport intermédiaire du 30 mars 1998, a conclu à un préjudice économique de 48,5 %. Dans un projet de décision du 10 novembre 1999, l'office AI a avisé S._ qu'il pourrait exercer à un taux de 100 % une activité professionnelle adaptée à son état de santé, lui permettant d'éviter le port de lourdes charges et d'alterner les positions. Se fondant sur un revenu sans invalidité de 57'370 fr. (valeur 1998) par année et sur un revenu annuel d'invalide de 39'305 fr. 50 (valeur 1998), il concluait à une invalidité de 31 %. Le 29 novembre 1999, l'assuré a contesté l'évaluation de son invalidité, en invitant l'office AI à surseoir à une décision immédiate. Le 23 février 2000, l'office AI a informé S._ qu'on pouvait raisonnablement exiger de lui, compte tenu de son état de santé, qu'il exerce une activité adaptée à 100 % avec plein rendement, et qu'il n'y avait dès lors aucune raison de remettre à plus tard sa décision. Retenant une invalidité de 31 %, il a, par décision datée du même jour, rejeté la demande. Le 23 février 2000, l'office AI a informé S._ qu'on pouvait raisonnablement exiger de lui, compte tenu de son état de santé, qu'il exerce une activité adaptée à 100 % avec plein rendement, et qu'il n'y avait dès lors aucune raison de remettre à plus tard sa décision. Retenant une invalidité de 31 %, il a, par décision datée du même jour, rejeté la demande. B. Par jugement du 25 septembre 2001, le Tribunal des assurances du canton de Vaud a admis le recours formé par S._ contre cette décision, annulé celle-ci et renvoyé le dossier à l'office AI pour qu'il procède conformément aux considérants, puis rende telle nouvelle décision que de droit. B. Par jugement du 25 septembre 2001, le Tribunal des assurances du canton de Vaud a admis le recours formé par S._ contre cette décision, annulé celle-ci et renvoyé le dossier à l'office AI pour qu'il procède conformément aux considérants, puis rende telle nouvelle décision que de droit. C. L'Office de l'assurance-invalidité pour le canton de Vaud interjette recours de droit administratif contre ce jugement, en concluant à l'annulation de celui-ci et au renvoi du dossier à l'office AI afin qu'il complète les informations et rende une nouvelle décision. Il produit un avis médical du 9 avril 2002 du docteur B._, médecin du Service médical régional AI de T._. S._ conclut, sous suite de dépens, à l'irrecevabilité du recours. A titre subsidiaire, il demande que celui-ci soit rejeté. L'Office fédéral des assurances sociales n'a pas déposé d'observations. 