Sachverhalt: A. Nachdem der am 20. August 1947 geborene, verheiratete U._ seit längerer Zeit von seiner Wohnsitzgemeinde, der Fürsorgebehörde X._, finanziell unterstützt worden war, beschloss diese am 21. Januar 2010 die Einstellung ihrer Leistungen auf den 31. Juli 2010, dies mit dem Hinweis, dass er als Sozialhilfeempfänger bis dahin Gelegenheit habe, sich zum vorzeitigen Bezug der AHV-Altersrente anzumelden. U._ stellte sich in der Folge mehrfach auf den Standpunkt, er wolle seine Altersrente erst ab dem Erreichen des ordentlichen Rentenalters beantragen; er könne allein entscheiden, wann er seine AHV-Rente beziehen möchte. Am 25. August 2010 beschloss die Vormundschaftsbehörde X._, die Anmeldung zum Bezug der vorzeitigen AHV für U._ werde direkt durch die Vormundschaftsbehörde vorgenommen. Die Anmeldung müsse bis spätestens 31. August 2010 bei der Ausgleichskasse des Kantons Schwyz vorliegen und einer allfälligen Beschwerde werde die aufschiebende Wirkung entzogen. Gleichzeitig meldete die Vormundschaftsbehörde U._ zum vorzeitigen Bezug der Altersrente an. Die gegen den Beschluss erhobene Beschwerde wies der Regierungsrat des Kantons Schwyz mit Beschluss vom 19. Oktober 2010 ab. Mit Verfügung vom 15. Dezember 2010 wies die Ausgleichskasse Schwyz die Anmeldung zum Vorbezug der Altersrente ab. Dies bestätigte sie mit Einspracheentscheid vom 8. Februar 2011. Am 3. März 2011 beschloss die Vormundschaftsbehörde, der Prozessführung in Sachen U._ und Vormundschaftsbehörde X._ gegen die Ausgleichskasse Schwyz zuzustimmen. B. Gegen den Einspracheentscheid erhob die Vormundschaftsbehörde Beschwerde ans Verwaltungsgericht des Kantons Schwyz. Dieses ging davon aus, dass die Vormundschaftsbehörde nicht für sich Beschwerde führe, sondern für U._. Mit Entscheid vom 28. April 2011 hiess es die Beschwerde gut, soweit es darauf eintrat, hob die Verfügung und den Einspracheentscheid auf und hielt die Vorinstanz an, die von der Vormundschaftsbehörde eingereichte Anmeldung entgegenzunehmen und das Erforderliche anzuordnen. C. U._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt sinngemäss die Aufhebung des vorinstanzlichen Entscheids. Die Vormundschaftsbehörde X._ schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen (BSV) und die Ausgleichskasse verzichten auf eine Vernehmlassung. 