A.- Victime d'un infarctus du myocarde inférieur étendu, thrombolysé le 6 janvier 1997, T._, né en 1947, a été en incapacité totale de travail depuis cette date, jusqu'au 28 février de la même année tout au moins; il a ensuite repris son activité de jardinier à mi-temps jusqu'au 31 janvier 1998, date à laquelle il a été licencié pour motifs économiques. Son salaire mensuel, versé douze fois l'an, était de 4650 fr. Souffrant, par ailleurs, de lombalgies, il a déposé une demande de prestations de l'assurance-invalidité le 6 avril 1998. Après avoir été opéré le 10 février 1999 pour une greffe de la cornée, l'assuré a encore subi, le 6 mars 2000, un triple pontage aorto-coronarien pour maladie coronarienne tritronculaire sévère et angor d'effort de stade II-III. Dans un rapport du 14 décembre 1999, le docteur N._, cardiologue FMH, expose que, du seul point de vue cardiologique, près de trois ans après un infarctus inférieur, l'évolution est satisfaisante, sans apparition de signes d'ischémie résiduelle et avec une capacité fonctionnelle très satisfaisante; le travail de jardinier, sans gros travaux de terrassement, semble envisageable, en tout cas à temps partiel. Ce praticien réserve cependant les effets d'un syndrome lombo-vertébral, susceptible de limiter cette activité. A la demande de l'office, l'assuré a, par ailleurs, été examiné le 9 février 2000 par le docteur S._, spécialiste en médecine interne et maladies rhumatismales. Ce médecin retient les diagnostics de lombalgies chroniques de type mécanique, intermittentes (origine discale L5-S1 et articulaire postérieure L5-S1) dans le cadre d'un déconditionnement physique important, maladie coronarienne tritronculaire, status après infarctus myocardique inférieur thrombolysé le 6 janvier 1997, greffe de cornée de l'oeil droit en janvier ou février 1999 ensuite d'une brûlure en 1969 et obésité de classe I. Selon ce praticien, sur le plan purement rhumatologique, le patient peut effectuer un travail à 100 % qui ne nécessite ni port de charges très lourdes, ni travail en flexion prolongée du tronc ou en "positions vicieuses" du tronc (extension excessive, torsions). Par décision du 20 septembre 2000, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après : l'office) a rejeté la demande de prestation au motif que le degré de l'invalidité (19, 78 %) demeurait insuffisant pour ouvrir le droit à une rente. Il a toutefois indiqué à l'assuré qu'à l'échéance d'un délai d'attente d'une année, son droit à une rente serait réexaminé, compte tenu d'une aggravation de son état de santé survenue le 19 janvier 2000 et ayant entraîné une réduction de sa capacité de travail à 50 % dans un emploi adapté. B.- Par jugement du 25 juin 2001, le Tribunal des assurances du canton de Vaud a admis le recours formé par l'assuré contre cette décision et accordé à ce dernier une demi-rente d'invalidité à partir du 1er janvier 1998. C.- L'office interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation. T._ conclut principalement à l'irrecevabilité et subsidiairement au rejet du recours, le tout sous suite de frais et dépens, cependant que l'Office fédéral des assurances sociales ne s'est pas déterminé. 