Sachverhalt: A. Der deutsche Staatsangehörige B._ wohnt seit 2001 in der Schweiz. Er ist Kommanditist der deutschen Firma X._ GmbH & Co. KG. Das kantonale Steueramt meldete am 10. Oktober 2007 und am 13. Juni 2008 im Ausland erzieltes Einkommen aus selbständiger Erwerbstätigkeit sowie investiertes Eigenkapital für die Jahre 2003 bis 2006. Mit Nachtragsverfügungen vom 1. Juli und 5. September 2008 setzte die Ausgleichskasse des Kantons St. Gallen die Beiträge des B._ für das Jahr 2003 auf Fr. 182'721.40, für 2004 auf Fr. 266'234.80, für 2005 auf Fr. 355'480.80 und für 2006 auf Fr. 296'294.40 fest. Am 3. Juli und am 11. August 2008 verfügte sie des Weitern Verzugszinse in der Höhe von Fr. 22'345.55 und von Fr. 66'689.75. An diesen Verfügungen hielt sie mit Einspracheentscheid vom 24. September 2008 fest. B. Die hiegegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 8. Juni 2009 gut und hob den Einspracheentscheid vom 24. September 2008 auf. Zur Begründung führte es an, der Beschwerdeführer leiste mit seiner Beteiligung als Kommanditist der deutschen X._ GmbH & Co. KG keinen persönlichen Einsatz, der in einem relevanten Zusammenhang mit den ihm zufliessenden Einkünften stehe. Es handle sich um blosse Vermögensverwaltung. Der Beteiligungsgewinn komme einem Kapitalertrag gleich, auf welchem keine sozialversicherungsrechtlichen Beiträge geschuldet seien. C. Die Ausgleichskasse des Kantons St. Gallen führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides sei der Einspracheentscheid vom 24. September 2008 zu bestätigen. Das kantonale Gericht verzichtet auf eine Vernehmlassung. B._ lässt auf Abweisung der Beschwerde schliessen, während das Bundesamt für Sozialversicherungen (BSV) deren Gutheissung beantragt. 