A.- A._, marié et père de deux enfants, a travaillé dès 1986 en qualité de manoeuvre, puis de machiniste, au service de l'entreprise X._ SA. Atteint d'une coxarthrose bilatérale, prédominante à droite, et de dorso-lombalgies relevant de troubles statiques et dégénératifs avec séquelles de maladie de Scheuermann, il a été reconnu incapable de travailler à 100 % depuis le 15 septembre 1995 pour une durée indéterminée par son médecin traitant, le docteur B._. Le 23 mai 1996, il a déposé une demande de prestations de l'assurance-invalidité. L'Office de l'assurance-invalidité du canton de Fribourg (ci-après : l'office) lui a accordé un stage au centre d'observation professionnel de l'assurance-invalidité (ci-après : COPAI). Selon le rapport du COPAI du 12 janvier 1998, l'assuré est capable de reprendre une activité à temps partiel n'impliquant pas de déplacement important et permettant d'alterner les positions (surveillance ou gardiennage, travail à l'établi) et pourrait obtenir un rendement proche de la normale. Sur le plan psychiatrique, les docteurs C._ et D._, commis par l'office, ont constaté une réaction dépressive légère consécutive à des problèmes physiques handicapants, sans que le déséquilibre dans l'état psychologique du patient soit suffisamment important pour justifier en soi une incapacité de travail, même s'il aggrave celle qui existe déjà (rapport du 6 mai 1998). Le docteur E._, médecin-chef du service de rhumatologie à l'Hôpital Y._, a confirmé que l'assuré ne pouvait plus reprendre son métier de machiniste, mais disposait toutefois d'une capacité résiduelle de travail de 50 % dans une activité ne nécessitant ni le port de charges, ni de longs déplacements à pied, avec la possibilité de changer de positions (rapport du 10 mai 1999). L'office a, par décision du 24 novembre 1999, alloué à l'assuré une demi-rente ordinaire, fondée sur un taux d'invalidité de 50 %, assortie d'une rente complémentaire pour le conjoint et pour enfant à partir du 1er septembre 1996. Il a considéré que l'intéressé était en mesure d'exercer à plein temps une activité adaptée à son état de santé, mais avec un rendement de 70 % et disposait d'une capacité de gain résiduelle de 30 712 fr. 50 (43 875 fr. x 70 %) par an. B.- A._ a recouru contre cette décision devant le Tribunal administratif du canton de Fribourg, en produisant un certificat du docteur B._ du 2 novembre 1999. Sur demande de l'office, il a été soumis à une expertise pluridisciplinaire auprès de la Clinique romande de réadaptation dont il ressort qu'une capacité de travail de 50 % dans une activité adaptée peut être exigée de sa part (rapport du 31 août 2000). Se fondant sur ces conclusions, l'office a considéré que l'assuré était capable de travailler dans une activité d'ouvrier dans l'industrie légère à plein temps, avec un rendement diminué; il a de ce fait admis une réduction de 50 % du revenu que l'assuré pourrait obtenir dans une telle activité, ce qui conduit à un degré d'invalidité de 60 % (observations du 18 octobre 2000). Il a, par décisions du 15 novembre 2000, complété la décision du 24 novembre 1999, en ce sens qu'il a admis des périodes supplémentaires de cotisations versées par l'assuré au Portugal. Par jugement du 23 mai 2001, le Tribunal administratif a admis le recours et annulé la décision attaquée, en reconnaissant à l'assuré une rente entière d'invalidité. C.- L'office interjette recours de droit administratif en concluant à l'annulation du jugement entrepris et à la confirmation de sa décision du 24 novembre 1999 en ce sens que l'assuré a droit à une demi-rente fondée sur un degré d'invalidité de 60 % dès le 1er septembre 1996. A._ conclut, avec dépens, au rejet du recours. L'Office fédéral des assurances sociales ne s'est pas déterminé. 