Sachverhalt: A. A._, geboren 1967, war ab 1. Januar bis 30. Juni 2001 bei der B._ AG angestellt. Am 26. April 2001 zog er sich beim Sturz auf einer Treppe eine Claviculafraktur zu. Das Arbeitsverhältnis wurde von der B._ AG am 30. Mai 2001 per Ende Juni 2001 gekündigt. Am 30. Oktober 2002 stellte die Schweizerische Unfallversicherungsanstalt (SUVA), bei welcher A._ obligatorisch gegen Unfälle versichert war, die Taggeldleistungen per 11. November 2002 ein. Mit Verfügung vom 10. Oktober 2003 sprach die IV-Stelle des Kantons Zürich A._ ab 1. April 2002 eine ganze Rente der Invalidenversicherung zu. Die Providentia Lebensversicherung holte am 27. Mai 2005 bei der Medizinischen Abklärungsstelle des Universitätsspitals Y._ (MEDAS) ein polydisziplinäres Gutachten ein, das am 23. Dezember 2005 erstattet wurde. Am 16. August 2007 erachtete der SUVA-Kreisarzt den Versicherten bezogen auf das linke Schultergelenk wieder zu 100 % arbeitsunfähig. Gestützt auf diese Untersuchung wurden A._ am 21. September 2007 rückwirkend ab 11. November 2002 Taggelder der SUVA bei einem Arbeitsunfähigkeitsgrad von jeweils mindestens 20 % nachbezahlt. Am 31. August 2006 teilte die Sammelstiftung berufliche Vorsorge Swiss Life (im Folgenden: Swiss Life) als Vorsorgeeinrichtung der B._ AG A._ mit, dass sie lediglich die obligatorischen Leistungen aus beruflicher Vorsorge für die Zeit vom 1. April bis 11. November 2002 gewähre. Die entsprechende Abrechnung erfolgte am 7. September 2006. B. Am 16. November 2007 liess A._ Klage führen mit dem Antrag, die Swiss Life sei zu verpflichten, ihm basierend auf dem von der IV-Stelle festgelegten Invaliditätsgrad die gesetzlich und reglementarisch geschuldeten Leistungen, zuzüglich Zins zu 5 % seit Fälligkeit, auf Grund der seit 26. April 2001 bestehenden Arbeits- und Erwerbsunfähigkeit zu erbringen. Das Sozialversicherungsgericht des Kantons Zürich wies die Klage mit Entscheid vom 26. Oktober 2009 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ sein vorinstanzlich gestelltes Rechtsbegehren erneuern. Die Swiss Life hält an ihrem Standpunkt fest. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme. 