Sachverhalt: A. H._ war Partner der Firma X._ und als solcher bei der Pensionskasse für die Partner der Firma X._ (im Folgenden: Pensionskasse) vorsorgeversichert. Per 1. September 2008, nach Vollendung des 63. Altersjahres, erreichte er das ordentliche Rücktrittsalter. Am 6. Februar 2008 beantragte er bei der Pensionskasse den Bezug der Altersleistungen zu 100 % als Altersrate. Mit Schreiben vom 20. August 2008 teilte ihm die Pensionskasse mit, dass sein Alterskapital, welches sich aus dem Sparkapital von Fr. 2'436'510.10 (Stand 1. Januar 2008), den Sparbeiträgen Januar bis August 2008 von Fr. 26'666.80 und einem Zins von 1 % auf dem Sparkapital bis 31. August 2008 von Fr. 16'243.40 zusammensetzt, Fr. 2'479'420.30 betrage, was bei einem Umwandlungssatz von 6,5 % einer monatlichen Altersrate von Fr. 13'430.20 und einer monatlichen Ehegattenrate von Fr. 8'729.60 (65 % der laufenden Altersrate) entspreche. Am 20. Februar und 30. März 2009 informierte die Pensionskasse H._ schriftlich darüber, dass die Zinsperformance für das Jahr 2008 bei zirka -17 % liege und daher das unter Annahme einer Zinsperformance von 1 % errechnete Alterskapital per 31. August 2008 tiefer liege, als in der Leistungsübersicht vom 20. August 2008 berechnet. H._ liess daraufhin der Pensionskasse mitteilen, dass er auf einem Zins von 1 % für die Periode vom 1. Januar bis 31. August 2008 bestehe. Die Pensionskasse ihrerseits hielt an ihrem Standpunkt fest und belastete das Sparkapital per 31. Dezember 2008 bei einem Zinssatz von minus 17,0644 % mit Fr. 415'994.-, so dass das Kapital am 31. Dezember 2008 nach Abzug der bezahlten Raten Fr. 1'993'462.10 betrug. B. Mit Eingabe vom 16. September 2010 reichte H._ gegen die Pensionskasse für die Partner der Firma X._ Klage ein mit dem Rechtsbegehren, die Beklagte sei zu verpflichten, sein Alterskapital per 1. Januar 2009 auf Fr. 2'301'046.21 festzusetzen. Mit Entscheid vom 23. November 2011 wies das Sozialversicherungsgericht des Kantons Zürich nach einem doppelten Schriftenwechsel die Klage ab. C. H._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und das vorinstanzlich gestellte Rechtsbegehren erneuern unter Aufhebung des angefochtenen Entscheides. Die Pensionskasse lässt auf Abweisung der Beschwerde schliessen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung. 