Sachverhalt: A. A.a Die Stiftung für den flexiblen Altersrücktritt im Bauhauptgewerbe (Stiftung FAR) ist zuständig für die Durchführung des am 12. November 2002 zwischen dem Schweizerischen Baumeisterverband (SBV) und der GBI Gewerkschaft Bau & Industrie (heute UNIA) sowie der Gewerkschaft SYNA abgeschlossenen Gesamtarbeitsvertrages für den flexiblen Altersrücktritt im Bauhauptgewerbe (GAV FAR), der vom Bundesrat teilweise allgemeinverbindlich erklärt wurde. A.b Im Hinblick auf die Vollendung seines sechzigsten Altersjahres am 28. August 2007 ersuchte B._ die Stiftung FAR am 3. April 2007 um Leistungen aus vorzeitigem Altersrücktritt. Diese verneinte ihre Leistungspflicht mit der Begründung, der Bereich "carrelage", in welchem er jeweils als Plattenleger gearbeitet habe, falle nicht unter den Geltungsbereich des GAV FAR. Am 2. Juni 2008 erhob B._ Klage gegen die Stiftung FAR mit dem Rechtsbegehren, diese sei zu verpflichten, ihm ab 1. September 2007 Leistungen aus vorzeitigem Altersrücktritt gemäss Reglement FAR nebst 5 % Zins ab Fälligkeit der einzelnen Rentenbetreffnisse zu entrichten. Das Sozialversicherungsgericht des Kantons Zürich wies die Klage mit Entscheid vom 28. September 2009 ab. B. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben und erneuert das vorinstanzliche Rechtsbegehren; eventualiter sei die Sache zur weiteren Abklärung und neuen Entscheidung an die Vorinstanz zurückzuweisen. Die Stiftung FAR schliesst auf Abweisung der Beschwerde. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung, während das Staatssekretariat für Wirtschaft SECO sich zur Sache äussert, ohne einen Antrag zu stellen. 