Sachverhalt: A. Mit Verfügung vom 15. August 1997 hatte die IV-Stelle des Kantons Zürich den Anspruch von L._ auf eine Invalidenrente verneint, da sie gemäss ärztlicher Beurteilung ihre Arbeitsfähigkeit durch eine ambulante oder stätionäre psychiatrische Behandlung hätte steigern können. Mit Urteil vom 28. Februar 2000 hatte das Sozialversicherungsgericht des Kantons Zürich eine Beschwerde der Versicherten gutgeheissen und für die Zeit ab dem 1. November 1996 ihren Anspruch auf eine ganze Rente (Invaliditätsgrad von 100 %) festgestellt. In den Jahren 2000/2001 und 2004 führte die IV-Stelle Revisionsverfahren durch und bestätigte jeweils den Anspruch auf eine ganze Rente. Auch in den Jahren 2006 und 2008 leitete die IV-Stelle Rentenrevisionen in die Wege und bestätigte den Anspruch auf die bisherige ganze Rente. Gleichzeitig auferlegte sie der Versicherten unter dem Titel der Schadenminderungspflicht am 13. April 2007 die Aufnahme einer Psychotherapie, die Einnahme der vom Psychotherapeuten verordneten Psychopharmaka und eine eventuelle Hospitalisation, am 15. Dezember 2008 die Aufnahme einer intensiven fachärztlichen psychiatrischen Behandlung mit Kontrolle des Medikamentenspiegels, beide Male mit Ankündigung, dass sie den Rentenanspruch im Unterlassungsfall anlässlich der nächsten amtlichen Revision so beurteilen werde, wie wenn die Behandlung erfolgt wäre. Im Juni 2009 ging die IV-Stelle davon aus, die Versicherte sei der ihr auferlegten Schadenminderungspflicht nicht nachgekommen, wobei sie bei erfolgreicher Durchführung der psychiatrischen Behandlung eine 50%ige Arbeitsfähigkeit in einer angepassten Tätigkeit erlangt hätte. Mit Vorbescheid vom 6. April 2010 teilte sie ihr mit, dass sie die bisherige ganze auf eine halbe Rente herabzusetzen gedenke. Mit ihren Einwendungen liess die Versicherte einen Bericht von Dr. med. K._, Fachärztin FMH für Psychiatrie und Psychotherapie, vom 16. April 2010 einreichen, in dem die Ärztin über die seit dem 15. April 2010 erfolgte Behandlungsaufnahme informierte. Mit Verfügung vom 5. Juli 2010 setzte die IV-Stelle die bisherige Leistung mit Wirkung ab dem 1. September 2010 auf eine halbe Rente bei einem Invaliditätsgrad von 50 % herab. B. Die dagegen erhobene Beschwerde mit dem Antrag, die Ausrichtung einer ganzen Rente sei auch weiterhin zu gewähren, hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 29. September 2011 gut. C. Das Bundesamt für Sozialversicherungen (BSV) führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, bei Zuerkennung der aufschiebenden Wirkung der Beschwerde sei diese in Aufhebung des kantonalen Entscheides gutzuheissen. D. Mit Verfügung vom 2. Dezember 2011 hat das Bundesgericht der Beschwerde des Bundesamtes für Sozialversicherungen die Suspensivwirkung zuerkannt. 