Sachverhalt: A. A.a B._, geboren 1957, arbeitete seit 1991 als Hausangestellte im Altersheim X._. Am 10. Dezember 1997 meldete sie sich unter Angabe eines Bandscheibenleidens bei der IV-Stelle des Kantons Zürich zum Bezug von Leistungen der Invalidenversicherung an. Nach Abklärung der medizinischen und wirtschaftlichen Verhältnisse sprach diese B._ mit Verfügung vom 14. Juli 1998 ab 1. Januar 1998 eine ganze Rente zu (Invaliditätsgrad von 100 %). Mit Schreiben vom 9. Dezember 1999 und 14. Januar 2004 bestätigte sie den bisherigen Rentenanspruch bei einem unveränderten Invaliditätsgrad. A.b Im Rahmen eines am 17. Juni 2008 eingeleiteten Revisionsverfahrens holte die IV-Stelle Berichte der Inneren Medizin der Klinik Y._, (vom 18. Juli 2008) und der Klinik für Rheumatologie und Rehabilitation, Spital Z._, (vom 13. November 2008) sowie ein polydisziplinäres Gutachten des ABI (Ärztliches Begutachtungsinstitut GmbH), vom 19. August 2009 ein. Dieses attestierte B._ in einer körperlich leichten und intermittierend mittelschweren Tätigkeit eine Arbeits- und Leistungsfähigkeit von 100 %. Gestützt darauf kündigte die IV-Stelle B._ mit Vorbescheid vom 8. Januar 2010 auf den 1. Juni 2010 die Herabsetzung der ganzen auf eine Viertelsrente an (Invaliditätsgrad von 40 %). Am 26. April 2010 verfügte sie auf den genannten Zeitpunkt die Ausrichtung einer "ganzen IV-Rente bei einem Invaliditätsgrad unter 70 Prozent". B. B._ erhob am 26. Mai 2010 Beschwerde beim Sozialversicherungsgericht des Kantons Zürich. Sie beantragte, es sei ihr weiterhin eine auf einem Invaliditätsgrad von mindestens 75 % basierende Rente auszurichten. Die IV-Stelle beantragte, es sei festzustellen, dass die Rentenzusprache zu Unrecht erfolgt sei. Die Rente sei aufzuheben. Eventualiter sei die Beschwerde abzuweisen. Mit Beschluss vom 26. September 2011 gab das Gericht B._ die Gelegenheit, sich zur Frage einer reformatio in peius zu äussern. Nachdem die Versicherte am 16. April 2012 zur Frage der Schlechterstellung Stellung genommen und am Rechtsmittel festgehalten hatte, wies das Sozialversicherungsgericht die Beschwerde mit Entscheid vom 7. September 2012 ab. Zudem änderte es die Verfügung vom 26. April 2010 dahingehend ab, dass B._ ab 1. Juni 2010 keinen Anspruch mehr auf eine Invalidenrente habe. C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, der kantonale Entscheid und die Verfügung seien aufzuheben. Es sei ihr über den 31. Mai 2010 hinaus eine ganze Invalidenrente zuzusprechen. Eventualiter sei ihr ab 1. Juni 2010 eine Viertelsrente zuzusprechen. Subeventualiter sei die Sache an die IV-Stelle zurückzuweisen, damit sie den medizinischen Sachverhalt rechtsgenügend abkläre. Ferner lässt sie unentgeltliche Rechtspflege beantragen. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf Vernehmlassung. 