A.- X._ est propriétaire de la Fiduciaire Y._, à Lausanne, avec succursale à Z._, et fonctionne comme expert en matière de prévoyance professionnelle depuis le 26 juin 1987. Saisi d'une dénonciation de l'autorité de surveillance des institutions de prévoyance du canton de Neuchâtel, mettant en cause la façon dont X._ avait rempli son mandat d'expert en février 1997 dans le cadre de l'entreprise B._ tombée en faillite en mars 1998, l'Office fédéral des assurances sociales a retiré la qualité d'expert à X._, par décision du 9 mars 2000. Il a également prononcé le retrait de l'effet suspensif à cette décision qui devait donc entrer en vigueur immédiatement. B.- X._ a recouru contre cette décision auprès de la Commission fédérale de recours en matière de prévoyance professionnelle vieillesse, survivants et invalidité, en demandant préalablement la restitution de l'effet suspensif. Par décision incidente du 29 mai 2000, le Président de la Commission fédérale de recours a toutefois rejeté cette requête pour le motif que l'intérêt public tendant à la protection des assurés des caisses de pension pour lesquelles X._ exerçait des mandats, et dont il s'est toujours refusé à fournir la liste, était supérieur à l'intérêt qu'avait le recourant à poursuivre son activité d'expert. C.- X._ forme un recours de droit administratif contre cette décision dont il demande l'annulation, sous suite de dépens. La Commission fédérale de recours a renoncé à se déterminer et l'Office fédéral des assurances sociales a conclu au rejet du recours. 