Sachverhalt: A. Der 1971 geborene M._ meldete sich am 22. Januar 2008 zum Bezug von Ergänzungsleistungen (EL) an. Die Ausgleichskasse Zug sprach ihm mit zwei Verfügungen vom 23. Mai 2008 für die Monate Januar und Februar 2008 Ergänzungsleistungen von Fr. 2'245.- und ab März 2008 von Fr. 965.- zu. In beiden Berechnungen wurde ein Verzichtsvermögen von Fr. 129'000.- berücksichtigt. Der angerechnete Betrag ergibt sich aus einer Freizügigkeitsleistung von Fr. 139'230.-, welche dem Versicherten am 31. August 2006 überwiesen worden und im Zeitpunkt der Anmeldung zum Leistungsbezug nicht mehr vorhanden war, abzüglich Fr. 10'000.- für den jährlich zu berücksichtigenden Vermögensverzehr. Die von M._ gegen die Verfügungen erhobene Einsprache wies die Ausgleichskasse mit Entscheid vom 22. Dezember 2008 ab und hielt an der Anrechnung des Verzichtsvermögens fest. B. Die hiegegen erhobene Beschwerde, mit welcher die Berücksichtigung der effektiv erzielten Einkünfte und des tatsächlich vorhandenen Vermögens beantragt wurde, hiess das Verwaltungsgericht des Kantons Zug mit Entscheid vom 24. September 2009 gut und stellte fest, "dass das Vermögen in der Höhe von Fr. 139'000.- nicht als Einnahmen im Sinne von Art. 11 Abs. 1 lit. g ELG angerechnet wird". C. Die Ausgleichskasse Zug führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, unter Aufhebung des kantonalen Entscheides sei ihr Einspracheentscheid vom 22. Dezember 2008 zu bestätigen. M._ schliesst auf Nichteintreten, eventualiter Abweisung der Beschwerde, das Verwaltungsgericht des Kantons Zug auf Abweisung. Das Bundesamt für Sozialversicherungen (BSV) verzichtet auf eine Vernehmlassung. D. Mit Eingabe vom 18. Dezember 2009 teilt die Beschwerdeführerin mit, M._ habe sich per 11. Dezember 2009 aus der Schweiz nach dem Ausland abgemeldet, weshalb die Beistandschaft aufgehoben und die Auszahlung der Invalidenrente ins Ausland verlangt worden sei. 