A.- T._ a travaillé en Suisse comme maçon dès 1989. Souffrant de lombosciatalgies gauches chroniques sur troubles dégénératifs du rachis avec canal lombaire étroit, probablement d'une double hernie discale, et d'un état dépressif réactionnel, il a présenté en octobre 1995 une demande de prestations de l'assurance-invalidité. Dans le cadre de l'instruction de cette demande, il a commencé un stage d'évaluation auprès de Z._, le 20 janvier 1997. Ce stage a cependant été interrompu le 22 janvier 1997 déjà en raison d'un blocage du dos. Estimant que l'assuré n'était pas en mesure de se soumettre dans l'immédiat à une nouvelle mesure de réadaptation et qu'il était, en l'état, incapable de reprendre une activité quelle qu'elle soit, l'Office de l'assurance-invalidité pour le canton de Vaud l'a mis au bénéfice d'une rente entière d'invalidité dès le 1er février 1996 (décision du 14 juillet 1997). En novembre 1997, l'assuré est retourné s'établir au Portugal. Dans le cadre d'une procédure de révision du droit à la rente, l'Office AI pour les assurés résidant à l'étranger (ci-après : l'office) a confié au docteur R._, médecin-chef de l'Hôpital X._, un mandat d'expertise. Dans un rapport du 26 mars 1999, ce médecin a conclu à l'existence d'une capacité de travail de 85 % dans l'activité exercée avant la survenance de l'invalidité voire, moyennant un programme de restauration fonctionnelle de quatre semaines, de 100 % dans une activité variée permettant de changer fréquemment de posture durant la journée et entrecoupée de brèves pauses permettant d'effectuer des exercices de "stretching". Par décision du 3 novembre 1999, l'office a supprimé le droit de T._ à toute rente dès le 1er janvier 2000. B.- T._ a recouru contre cette décision devant la Commission de recours en matière d'assurance-vieillesse, survivants et invalidité pour les personnes résidant à l'étranger (ci-après : la commission), qui l'a débouté par jugement du 4 octobre 2000. C.- L'assuré forme recours de droit administratif contre ce jugement dont il demande principalement l'annulation, sous suite de dépens. L'office a conclu au rejet du recours. 