A.- Die Firma X._ GmbH wurde im November 1996 gegründet. F._ war als Gesellschafter und Geschäftsführer mit Einzelunterschrift im Handelsregister eingetragen. Als Gesellschafter ohne Zeichnungsberechtigung waren D._ und fünf weitere Personen (P._, C._, E._, G._, J._), alle mit einer Stammeinlage von Fr. 3'000.-, eingetragen. Nachdem die Gesellschaft auf die Aufforderungen der Ausgleichskasse des Kantons St. Gallen (nachfolgend: Ausgleichskasse) zur Anmeldung nicht reagiert hatte, wurde sie am 18. Februar 1997 zwangserfasst. Am 23. September 1998 wurde über die Gesellschaft der Konkurs eröffnet. Der Ausgleichskasse wurde am 3. Juni 1999 ein Verlustschein über Fr. 38'556. 65 ausgestellt. Mit Verfügung vom 17. September 1999 verpflichtete die Ausgleichskasse D._ in solidarischer Haftbarkeit mit F._ zur Leistung von Schadenersatz in der Höhe von Fr. 38'746. 65 für entgangene Sozialversicherungsbeiträge (einschliesslich Verwaltungskostenbeiträge, Verzugszinsen, Mahngebühren und Betreibungskosten), davon Fr. 5'348. 25 für entgangene FAK-Beiträge. Dagegen liess D._ am 28. September 1999 Einspruch erheben. B.- Die von der Ausgleichskasse gegen D._ eingereichte Klage vom 27. November 1997 hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 26. Januar 2001 gut und verpflichtete D._ zur Bezahlung von Schadenersatz im Umfang von Fr. 38'486. 25. C.- Mit Verwaltungsgerichtsbeschwerde lässt D._ beantragen, der angefochtene Entscheid sei aufzuheben und die Klage sei betreffend die bundesrechtliche Forderung von Fr. 33'138.- abzuweisen. Die Ausgleichskasse schliesst auf Abweisung der Verwaltungsgerichtsbeschwerde, während sich das Bundesamt für Sozialversicherung nicht vernehmen lässt. 