Faits : Faits : A. A.a J._ a exercé la profession de vigneron indépendant, tout en travaillant, durant la saison d'hiver, auprès des remontées mécaniques X._. De l'été 1983 à l'automne 1984, il a également occupé un emploi à temps partiel (environ 29 heures par semaine) au service de la commune Y._ (contrôle de la décharge municipale). A la suite d'un accident de cyclomoteur survenu en 1967, le prénommé souffre de lombo-sciatalgies. Ces affections ont été exacerbées lors d'un service militaire en janvier 1983 (rapport du docteur A._, du 15 avril 1983). De ce chef, l'assurance-militaire lui a alloué une rente d'invalidité fondée sur un taux d'invalidité de 25 % dès le 1er janvier 1984 (cf. décision du 25 janvier 1985), puis, à la suite d'une procédure de révision, une rente fondée sur un degré d'invalidité de 50 % à partir du 1er janvier 1999 (cf. décision du 7 juin 1999). A.b Invoquant une diminution de sa capacité de travail due à ses lombo-sciatalgies (cf. rapport du docteur B._ du 14 septembre 1998), J._ s'est annoncé à l'assurance-invalidité le 15 juin 1998. L'Office cantonal AI du Valais (l'office AI) a invité le Centre d'observation professionnelle de l'AI (COPAI), à Yverdon-les-Bains, à organiser un stage d'observation de l'assuré. Ce dernier s'est présenté au COPAI, mais il n'a toutefois pas pu entreprendre le stage, en raison d'une décompensation dorsale aiguë. Par ailleurs, l'office AI a recueilli l'avis des responsables de la Clinique Z._, où J._ a fait l'objet d'examens. Dans son rapport du 6 novembre 2000, le docteur C._ a confirmé, parmi d'autres affections, le diagnostic de lombo-sciatalgies et attesté que l'assuré avait une capacité de travail de 60 % dans une activité adaptée, soit un rendement de 80 % dans le cadre d'un horaire journalier de 75 %. Au terme de ses investigations, l'office AI a estimé que l'assuré présentait un taux d'incapacité de travail de 60 % dans son activité de vigneron. En revanche, dans un emploi adapté, soit une activité légère, permettant l'alternance des positions et évitant la position en porte-à-faux, l'administration est parvenue à la conclusion qu'un horaire de travail journalier effectif de 62,5 % serait exigible de la part de l'assuré (plus précisément, un pensum journalier de 75 % avec des pauses de 10 minutes par heure). Dans la comparaison des revenus, l'office AI a actualisé le salaire dont l'assuré bénéficierait en 2001, s'il avait été engagé définitivement à plein temps en qualité de manoeuvre au service de la commune Y._ en 1984, retenant ainsi un gain annuel (d'assuré valide) de 45 044 fr. Quant au revenu d'invalide, l'administration l'a établi à la lumière des données ressortant de l'enquête suisse sur la structure des salaires, publiée par l'Office fédéral de la statistique; partant d'un revenu statistique de 54 594 fr. pour l'année 2001, l'office AI a évalué le gain d'invalide à 30 709 fr., en fonction du taux d'occupation exigible de 62,5 % et d'un abattement de 10 %. Par décision du 6 avril 2001, l'office AI a arrêté le taux d'invalidité de l'assuré à 31,82 %, niant en conséquence son droit à une rente. Par décision du 6 avril 2001, l'office AI a arrêté le taux d'invalidité de l'assuré à 31,82 %, niant en conséquence son droit à une rente. B. J._ a recouru contre cette décision devant le Tribunal des assurances du canton du Valais, en concluant à l'allocation d'une demi-rente d'invalidité. Par jugement du 20 août 2001, la juridiction cantonale a pris le dispositif suivant : 1. Le recours est admis et la décision de l'Office cantonal AI du Valais du 6 avril 2001 est annulée, J._ étant mis au bénéfice d'une demi-rente AI dès le 1er janvier 2000. 2. L'Office cantonal AI versera au recourant une indemnité de 1000 fr. pour ses frais et dépens. 2. L'Office cantonal AI versera au recourant une indemnité de 1000 fr. pour ses frais et dépens. C. L'office AI interjette recours de droit administratif contre ce jugement dont il demande l'annulation. A titre principal, il conclut à ce que la cause lui soit renvoyée afin de compléter l'instruction sur la prise en charge de mesures de réadaptation d'ordre professionnel; subsidiairement, l'administration conclut au rétablissement de sa décision. L'assuré intimé conclut au rejet du recours, avec suite de dépens. Quant à l'Office fédéral des assurances sociales, il a renoncé à se déterminer. 