Sachverhalt: A. Im Kanton Kanton St. Gallen bestehen die Versicherungskasse für das Staatspersonal (gemäss Verordnung vom 5. September 1989 über die Versicherungskasse für das Staatspersonal, VVK, sGS 143.7) und die kantonale Lehrerversicherungskasse (gemäss der Verordnung vom 13. November 1990 über die kantonale Lehrerversicherungskasse, VLVK, sGS 213.550) je als unselbständige öffentlich-rechtliche Anstalten des Staates und registrierte Vorsorgeeinrichtungen nach der Bundesgesetzgebung über die berufliche Vorsorge. Gemäss Art. 89 Abs. 1 VVK und Art. 74 Abs. 1 VLVK obliegt die Vermögensverwaltung der beiden Versicherungskassen der Finanzverwaltung des kantonalen Finanzdepartements. Am 30. Juni 1998 erliess der Regierungsrat des Kantons St. Gallen ein Reglement zur Berechnung der Entschädigung für die Vermögensverwaltung und setzte es rückwirkend auf den 1. Januar 1998 in Kraft. Das Reglement gilt für die Verwaltung von Vermögenswerten der Gebäudeversicherungsanstalt sowie der beiden kantonalen Versicherungskassen. Darin wird nebst der Entschädigung für die Liegenschaftsverwaltung eine Entschädigung für die übrigen Vermögensanlagen wie folgt festgelegt: Ein Basishonorar von 0,1 % des Gesamtvermögens (Ziff. 5 lit. a) sowie ein erfolgsabhängiges Honorar, das 10 % des Mehrertrages zwischen der tatsächlich realisierten Performance durch die Finanzverwaltung und der Indexperformance von Pictet beträgt (Ziff. 5 lit. b). Gestützt auf dieses Reglement bezog der Staat zu Lasten der beiden Versicherungskassen in den Jahren 1999 bzw. 2000 ein erfolgsabhängiges Honorar von ca. 11,7 bzw. 2,3 Mio. Franken, im Jahre 2001 ein solches von ca. 82'000.- Franken. B. Am 2. September 2002 reichten der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte beim Amt für berufliche Vorsorge und Stiftungen des Kantons St. Gallen (heute: Ostschweizer BVG- und Stiftungsaufsicht; im Folgenden: Aufsichtsbehörde) eine Aufsichtsbeschwerde gegen den Kanton St. Gallen ein mit den Anträgen, der Kanton St. Gallen sei anzuweisen, die Summe der in den Jahren 1999 und 2000 (sowie 2001; Schreiben vom 10. September 2002) vereinnahmten erfolgsabhängigen Honorare, deren Berechnungen und die genauen Daten der Vereinnahmungen darzulegen und den Betrag der zwischen 1. Januar und 30. Juni 1998 auf den Vermögensbeständen der Vorsorgeeinrichtungen erzielten Kapitalgewinne sowie pro rata temporis aufgelaufenen Zinsen auszuweisen; es sei festzustellen, dass die Vereinnahmungen der erfolgsabhängigen Honorare rechtswidrig erfolgten; es sei die Ziff. 5 lit. b des Reglements aufzuheben und der Kanton anzuweisen, die vereinnahmten Erfolgshonorare samt Zins an die beiden Versicherungskassen zurückzuerstatten. C. Mit Verfügung vom 19. September 2002 trat die Aufsichtsbehörde auf die Aufsichtsbeschwerde nicht ein. Dagegen erhoben der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte Beschwerde an die eidgenössische Beschwerdekommission der beruflichen Alters-, Hinterlassenen- und Invalidenvorsorge (BVG-Beschwerdekommission). Diese hiess die Beschwerde mit Urteil vom 10. Mai 2005 gut, soweit darauf einzutreten war, hob die angefochtene Verfügung auf und wies die Sache zu neuem Entscheid im Sinne der Erwägungen an die Aufsichtsbehörde zurück. In der Folge wies die Aufsichtsbehörde mit Verfügung vom 8. August 2005 die Aufsichtsbeschwerde ab, soweit sie darauf eintrat. D. Dagegen erhoben der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte am 31. August 2005 Beschwerde bei der BVG-Beschwerdekommission (wiederum) mit den Anträgen, die angefochtene Verfügung sei aufzuheben; der Kanton Kanton St. Gallen sei anzuweisen, genau darzulegen, welche Summe die erfolgsabhängigen Honorare der Jahre 1999-2001 umfasse, wie sich die Honorare im Einzelnen berechneten, an welchen Daten die Vereinnahmungen erfolgt seien und welcher Kapitalgewinn zwischen 1. Januar und 30. Juni 1998 auf den Vermögensbeständen der Vorsorgeeinrichtungen inklusive Zinsen aufgelaufen sei; es sei festzustellen, dass die Vereinnahmung der erfolgsabhängigen Erfolgshonorare rechtswidrig sei; Ziff. 5 lit. b des Reglements sei aufzuheben und der Kanton St. Gallen anzuweisen, die vereinnahmten Erfolgshonorare mit Zinsen zu 5 % an die beiden Versicherungskassen zurückzuerstatten. E. Mit Urteil vom 21. April 2010 hiess das nunmehr zuständige Bundesverwaltungsgericht die Beschwerde teilweise gut und hob die Verfügung des Amtes vom 8. August 2005 auf. Es hob Art. 5 lit. b des Reglements vom 30. Juni 1998 auf und wies die Sache an die Vorinstanz zurück, damit sie im Sinne der Erwägungen 8.6 und 9.3 vorgehe. F. Der Kanton St. Gallen, vertreten durch das Finanzdepartement, erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit folgenden Anträgen: "1. materiell: Das Urteil des Bundesverwaltungsgerichts vom 21. April 2010 sei aufzuheben und an die Vorinstanz zum Neuentscheid im Sinne der bundesgerichtlichen Erwägungen zurückzuweisen, damit diese - ein Beweisverfahren durchführe, aus welchem sich zu ergeben hat, wie hoch die Ansätze für die Entschädigung für BVG-Vermögensverwalter im schweizerischen Durchschnitt ab 1999 waren; - ausgehend vom Ergebnis des Beweisverfahrens entscheide, wie hoch die Entschädigung des Beschwerdeführers in Relation zur marktüblichen Entschädigung stehen darf; - sich auch über einen allfälligen Verzug und die Verzugszinshöhe ausspreche. 2. anstelle eines Begehrens um aufschiebende Wirkung: beschränkte Anerkennung. Der Beschwerdeführer anerkennt, dass die Berechnung des Erfolgshonorars gemäss Art. 5 Bst. b des Reglements zur Berechnung für die Vermögensverwaltung vom 30. Juni 1998 (nachfolgend abgekürzt Reglement) in einer wenig überzeugenden Weise an der gewählten Vergleichsgrösse angeknüpft hat. Er erklärt sich bereit und kann darauf behaftet werden, die gestützt auf diese Bestimmung nach der Regelung im Entschädigungsreglement vom 10. Oktober 2006 neu zu berechnen und einen Differenzbetrag zugunsten der Kassen der entsprechenden Spezialfinanzierung "Vorsorgevermögen" gutzuschreiben." G. Der Staatspersonalverband des Kantons St. Gallen und 19 Mitbeteiligte beantragen, auf die Beschwerde sei nicht einzutreten, eventuell sei sie abzuweisen. Aufsichtsbehörde, Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 