A.- Dans la cause opposant G._ à l'Office cantonal AI du Valais, le Tribunal fédéral des assurances, par arrêt du 29 septembre 1998, a admis le recours en ce sens que le jugement du Tribunal des assurances du canton du Valais, du 17 octobre 1997, et la décision administrative litigieuse, du 9 mai 1997, sont annulés, la cause étant renvoyée à l'Office cantonal AI du Valais pour instruction complémentaire au sens des considérants et nouvelle décision. Les faits déterminants sont exposés de manière détaillée dans l'arrêt précité, auquel soit renvoi. B.- L'Office cantonal AI du Valais a interpellé le docteur Z._, spécialiste FMH en chirurgie et médecin traitant de G._. Dans une lettre du 22 décembre 1998, ce praticien a répondu que le patient était parfaitement apte à travailler en plein dans une activité sans efforts particuliers, sans port de charges et en alternant la position assise et debout; il faudrait également éviter une profession dans laquelle celui-ci devrait travailler penché en avant, comme cela serait le cas dans un atelier d'horlogerie ou un travail sur microscope par exemple. L'assuré paraissait motivé à retrouver une activité professionnelle et il vaudrait la peine de bien préparer avec lui son reclassement professionnel pour qu'il soit couronné de succès. Le Service de réadaptation de l'office AI a soumis G._ à un examen psychotechnique. Dans un rapport du 4 mai 1999, il indiquait que les résultats obtenus lors de cet examen avaient mis en évidence des facultés intellectuelles inférieures à la moyenne et qu'une formation complète de type CFC n'était pas envisageable; du reste, l'assuré avait clairement fait comprendre qu'une formation qui n'aboutirait pas à un engagement immédiat ne l'intéressait absolument pas, l'essentiel étant qu'il puisse trouver un emploi sans avoir besoin d'entreprendre une formation théorique, si ce n'est une formation pratique propre à l'entreprise ou encore une mise au courant. Selon le Service de réadaptation, les activités proposées de surveillant de machines, de chauffeur-livreur dans une boulangerie ou d'employé dans un club de golf étaient adaptées aux limitations fonctionnelles et aux capacités d'adaptation de l'intéressé, emplois qui pouvaient être exercés sans formation. Sur requête du docteur Y._, médecin de l'office AI, une expertise a été confiée au Centre d'observation médicale de l'AI (COMAI). A cette fin, G._ a été hospitalisé dès le 15 novembre 1999 à la Policlinique médicale P._, où il a été examiné par la doctoresse X._ lors de la consultation de psychiatrie du 16 novembre 1999 et par le docteur W._ lors de la consultation de rhumatologie du 17 novembre 1999. Dans un rapport du 5 mai 2000, le professeur V._ et le docteur U._, respectivement médecin-chef et médecin-chef adjoint du COMAI, ont posé les diagnostics de syndrome douloureux chronique de type fibromyalgie et d'état dépressif moyen et trouble mixte de la personnalité (narcissique, paranoïaque). Ils indiquaient que la capacité de travail paraissait fortement limitée dans une activité lourde en raison du syndrome douloureux. Toutefois, dans une activité adaptée, il leur semblait persister une capacité de travail de l'ordre de 70 %. Ils ont répondu par l'affirmative à la question de savoir si la capacité de travail pouvait être améliorée par des mesures d'ordre professionnel, non sans avoir souligné que ces mesures, "dans le cadre du trouble de la personnalité ont de fortes chances de se solder par un échec". De l'avis du docteur Y._, du 31 août 2000, l'assuré était principalement limité dans les positions de travail statiques ou "acrobatiques" et le port de charges tant soit peu lourdes (15 à 20 kg). Les troubles de la personnalité incitaient à penser que des mesures d'ordre professionnel échoueraient. A l'examen comparé, les activités proposées par le Service de réadaptation étaient adaptées. Le 12 septembre 2000, l'office AI a avisé G._ qu'il n'avait pas droit à des mesures d'ordre professionnel, un reclassement professionnel (formation complète visant un CFC) n'étant nullement indiqué dans sa situation. Selon le Service de réadaptation, celui-ci était en mesure de réaliser dans un emploi adapté, qu'il lui était possible d'exercer sans formation professionnelle particulière, tel que surveillant de machines, chauffeur-livreur léger ou employé de golf, un gain annuel brut de 31 500 fr. (3500 fr. x 12 x 75 %). Par ailleurs, le revenu qui serait le sien sans l'atteinte à sa santé dans la profession de vitrier indépendant était de 44 600 fr. (valeur 1996). La comparaison des revenus donnait une invalidité de 29 %, taux qui ne donnait pas droit à une rente. Son droit à une rente d'invalidité prenait donc fin le 31 janvier 1997. 