A.- K._, marié, a bénéficié d'indemnités de chômage du mois de décembre 1995 à la fin du mois de novembre 1996, époque à laquelle il s'est rendu en Indonésie. Atteint de paludisme au début de l'année 1997, il a d'abord été hospitalisé à Bali, puis est rentré en Suisse. En raison de ces troubles, il n'a pas repris d'activité lucrative ni perçu d'indemnités de chômage. Par ailleurs, il ne bénéficiait pas d'une assurance en cas de perte de gain. Par décision du 22 mars 2000, l'Office cantonal AI du Valais lui a alloué une rente entière d'invalidité à partir du 1er février 1998. Aux termes de cette décision, l'assuré s'est vu refuser le droit à une rente complémentaire pour son épouse, motif pris qu'il n'avait pas exercé d'activité lucrative immédiatement avant la survenance de l'incapacité de travail. B.- Saisi d'un recours de l'assuré contre le refus de l'office AI de lui reconnaître le droit à une rente complémentaire, le Tribunal cantonal valaisan des assurances l'a rejeté par jugement du 7 septembre 2000. C.- K._ interjette recours de droit administratif contre ce jugement dont il requiert l'annulation, en concluant, sous suite de dépens, à l'octroi d'une rente complémentaire pour son épouse. L'office intimé conclut au rejet du recours, ce que propose également la Caisse cantonale valaisanne de compensation. L'Office fédéral des assurances sociales n'a pas présenté de détermination. 