Sachverhalt: A. Z._, geboren am 12. Juli 1942, war vom 15. Februar 1961 bis zum 31. Dezember 1997 beim Zimmereibetrieb A._, anschliessend bei dessen Rechtsnachfolgerin, der B._ SA, angestellt. Ab 1. Juli 2003 übernahm die C._ SA gewisse Arbeitgeberfunktionen für Z._, welcher jedoch weiterhin bei der B._ SA arbeitete. Die B._ SA war Mitglied des Schweizerischen Baumeisterverbands (im Folgenden: SBV). Gemäss den Statuten des SBV ist der Austritt eines Vereinsmitglieds nur auf Ende des Kalenderjahres zulässig, unter Beachtung einer sechsmonatigen Kündigungsfrist. Am 12. November 2002 schlossen der SBV, die Gewerkschaft Bau und Industrie sowie die Gewerkschaft Syna den Gesamtarbeitsvertrag für den flexiblen Altersrücktritt im Bauhauptgewerbe (nachfolgend: GAV FAR), dessen betrieblicher Geltungsbereich u.a. auch das Zimmereigewerbe umfasst (Art. 2 Abs. 1 lit. c GAV FAR). Der GAV FAR bezweckt, einen flexiblen Altersrücktritt zu ermöglichen. Zu dessen Durchführung gründeten die Vertragsparteien die "Stiftung für den flexiblen Altersrücktritt im Bauhauptgewerbe (Stiftung FAR)" (im Folgenden: Stiftung), eine nicht registrierte Personalfürsorgeeinrichtung gemäss Art. 89bis ZGB. Der GAV FAR trat gemäss seinem Art. 29 am 1. Juli 2003 in Kraft; er wurde auf unbefristete Zeit geschlossen und kann jeweils auf den 30. Juni eines Jahres unter Einhaltung einer Frist von sechs Monaten gekündigt werden, erstmals per 30. Juni 2008. Gemäss Art. 14 GAV FAR bzw. Art. 13 des Leistungs- und Beitragsreglements der Stiftung (im Folgenden: Reglement FAR) können Arbeitnehmer nach dem vollendeten 60. Altersjahr (bzw. übergangsrechtlich gestaffelt mit vollendetem 63., 62. oder 61. Altersjahr) unter bestimmten, kumulativ zu erfüllenden Voraussetzungen eine Überbrückungsrente beanspruchen. Zu diesen Voraussetzungen gehört u.a., dass der Arbeitnehmer die letzten sieben Jahre vor dem Leistungsbezug ununterbrochen in einem Betrieb gemäss Geltungsbereich GAV FAR gearbeitet hat. Am 24. Februar 2003 beantragten der Verein Holzbau Schweiz (eine Fachgruppe des SBV) bzw. 652 Holzbaufirmen, die gleichzeitig Mitglied von Holzbau Schweiz wie auch des SBV waren, eine Änderung der Statuten des SBV mit dem Ziel, den Mitgliedern von Holzbau Schweiz den Austritt aus dem SBV bis zum 31. März 2003 zu ermöglichen. Die Generalversammlung des SBV beschloss am 26. März 2003 eine entsprechende Statutenänderung. Die B._ SA trat - wie die meisten Holzbaufirmen - auf den 31. März 2003 aus dem SBV aus. Am 25. April 2003 focht ein Mitglied des SBV die Statutenänderung vom 26. März 2003 gerichtlich an. Mit Urteil des Bundesgerichts vom 8. Juni 2006 (BGE 132 III 503) wurde die Anfechtungsklage letztinstanzlich gutgeheissen und der Beschluss der Generalversammlung vom 26. März 2003 aufgehoben. B. Am 28. Januar 2004 beantragte Z._ bei der Stiftung für die Zeit ab 1. August 2004, d.h. nach Vollendung seines 62. Altersjahres am 12. Juli 2004, die reglementarischen Leistungen bei vorzeitiger Pensionierung. Mit Schreiben vom 30. Juni 2004 lehnte die Stiftung eine Überbrückungsrente ab mit der Begründung, die B._ SA habe auf den 31. März 2003 ihre Mitgliedschaft beim SBV aufgelöst und unterstehe daher nicht dem GAV FAR. Die Voraussetzung, wonach der Arbeitnehmer die letzten sieben Jahre vor dem Leistungsbezug ununterbrochen in einem Betrieb gemäss Geltungsbereich GAV FAR gearbeitet haben muss (Art. 14 Abs. 1 lit. c GAV FAR), sei daher nicht erfüllt. Am 21. Februar 2005 erhob Z._ beim Sozialversicherungsgericht des Kantons Zürich Klage gegen die Stiftung mit dem Antrag, es sei ihm ab 1. August 2004 eine ordentliche Überbrückungsrente gemäss GAV FAR zu entrichten. Das Gericht wies die Klage mit Urteil vom 31. Mai 2007 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt Z._ die Aufhebung des vorinstanzlichen Entscheids und Zusprechung einer ordentlichen Überbrückungsrente gemäss Reglement FAR ab 1. August 2004. Die Stiftung schliesst auf Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet. 