A.- B._, est domicilié en Algérie, son pays d'origine. En date du 27 avril 2000, il a demandé à la Caisse suisse de compensation (ci-après : la caisse) de lui rembourser des cotisations versées à l'AVS durant les années 1963 à 1967. Par décision du 27 juin 2000, la caisse a fixé à 1721 fr. 90 le montant du remboursement des cotisations de l'AVS. B.- Saisie d'un recours de B._ contre cette décision, la Commission fédérale de recours en matière d'assurance-vieillesse, survivants et invalidité pour les personnes résidant à l'étranger (ci-après : la commission) l'a rejeté par jugement du 5 avril 2001. C.- B._ interjette recours de droit administratif contre ce jugement, concluant implicitement à son annulation, au motif que le montant du remboursement est dérisoire au regard de la durée de son activité en Suisse. La caisse intimée conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales ne s'est pas déterminé. 