Sachverhalt: A. Der 1973 geborene F._ war seit Lehrbeginn am 1. August 1992 bis 30. September 2000 bei der Bauunternehmung X._ AG (nachfolgend Firma) tätig, zunächst als Strassenbauer und zuletzt als Vorarbeiter. Dadurch war er bei der BVG-Sammelstiftung der Rentenanstalt (nachfolgend Stiftung) obligatorisch berufsvorsorgeversichert. Nachdem die IV-Stelle des Kantons Graubünden ein erstes Leistungsbegehren mit Einspracheentscheid vom 13. Januar 2004 abgewiesen hatte, sprach sie F._ mit Verfügung vom 25. Februar 2005 basierend auf einem Invaliditätsgrad von 89 % eine ganze Rente der Invalidenversicherung ab 1. August 2003 zu. Die Stiftung lehnte es daraufhin mit Schreiben vom 13. Oktober 2005 ab, F._ eine Invalidenrente aus der beruflichen Vorsorge zu gewähren, weil der zeitliche Zusammenhang zwischen der während des Arbeitsverhältnisses bei der Firma eingetretenen Arbeitsfähigkeit und der Invalidität unterbrochen worden sei. B. Das Verwaltungsgericht des Kantons Graubünden hiess die Klage von F._ mit Entscheid vom 28. August 2007 teilweise gut und verpflichtete die Stiftung, ihm ab 1. August 2002 eine obligatorische Invalidenrente im Betrag von Fr. 14'681.- jährlich (zuzüglich reglementarische Teuerung und Zins) zu erbringen. Im überobligatorischen Bereich wies es die Klage hingegen ab. C. Das Bundesamt für Sozialversicherungen (BSV) führt Beschwerde mit dem Antrag, der angefochtene Entscheid sei in Bezug auf den Rentenbeginn aufzuheben und die Sache zur diesbezüglichen Neubeurteilung an die Vorinstanz zurückzuweisen. Die Stiftung verzichtet auf eine Stellungnahme, während F._ auf Abweisung der Beschwerde schliessen und um Gewährung der unentgeltlichen Rechtspflege ersuchen lässt. Eventualiter wird beantragt, der Rentenbeginn sei in Gutheissung der Beschwerde auf 13. November 2001 festzulegen. 