Sachverhalt: A. Der 1921 geborene M._, Bezüger von Ergänzungsleistungen (EL) zur Altersrente, stand im Zeitraum November 1999 bis Januar 2000 in zahnärztlicher Behandlung. Gemäss Rechnung vom 21. Januar 2000 beliefen sich die Kosten auf insgesamt Fr. 7775.15. Daran leistete die SWICA Gesundheitsorganisation aus der Zusatzversicherung Completa einen Beitrag von Fr. 200.-. Am 11. Februar 2000 ersuchte M._ um Vergütung der restlichen Fr. 7575.15 durch die Ergänzungsleistung. Mit Verfügung vom 6. April 2000 sprach ihm die Sozialversicherungsanstalt des Kantons St. Gallen (nachfolgend: EL-Durchführungsstelle) unter dem Titel Rückerstattung von Krankheitskosten für 1999 die Summe von Fr. 3000.- zu. Zur Begründung wurde sinngemäss angeführt, mangels eines genehmigten Kostenvoranschlages könne nicht mehr als dieser Betrag vergütet werden. B. In teilweiser Gutheissung der Beschwerde von M._ hob das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 15. November 2001 die Verfügung vom 6. April 2000 auf und wies die Sache im Sinne der Erwägungen zur Festsetzung des Anspruchs auf Krankheitskostenvergütung an die EL-Durchführungsstelle zurück. Das Bundesamt für Sozialversicherung führt Verwaltungsgerichtsbeschwerde mit dem Rechtsbegehren, der kantonale Gerichtsentscheid sei aufzuheben. M._ reicht keine Vernehmlassung ein. Die EL-Durchführungsstelle beantragt die Gutheissung der Verwaltungsgerichtsbeschwerde. C. Am 17. November 2003 und am 13. Juli 2005, nach Einholung einer Rechtsauskunft beim Eidgenössischen Departement des Innern, hat das Eidgenössische Versicherungsgericht eine parteiöffentliche Verhandlung durchgeführt. 