Sachverhalt: A. Wie schon 1995 und 1997 meldete sich der 1953 geborene B._, von Beruf angelernter Automechaniker, am 6. Dezember 2000 erneut bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich klärte die medizinischen und erwerblichen Verhältnisse ab und ermittelte einen Invaliditätsgrad von 68 %. Mit Verfügung vom 8. Februar 2002 sprach sie ihm eine ganze Invalidenrente ab 1. Juli 2001 zu. Massgebend dafür war das Administrativgutachten des Dr. med. A._, Chefarzt Rheumatologie, Klinik S._, vom 4. Juli 2001. Dieses attestierte B._ im bisherigen Arbeitsverhältnis einen Grad der Arbeitsfähigkeit von 0 %, für körperlich leichtere, wechselbelastende Tätigkeiten mit der Möglichkeit zum Positionswechsel, ohne repetitives Heben schwerer Lasten und mit der Möglichkeit zum ergonomischen Arbeiten, eine solche von 50 %, mit der Möglichkeit einer Steigerung auf 70 % nach sechs bis zwölf Monaten. Bei Rentenrevisionen 2003 und anfangs 2007 blieb der Anspruch unverändert. Als Ergebnis eines weiteren im August 2007 eingeleiteten Revisionsverfahrens hob die IV-Stelle die Rente mit Verfügung vom 28. Januar 2009 bei einem Invaliditätsgrad von nunmehr 29 % auf Ende Februar 2009 auf. Sie begründete es damit, die Rentenzusprechung sei offensichtlich unrichtig gewesen im wiedererwägungsrechtlichen Sinne. Sie stützte sich dabei auf das Gutachten der MEDAS vom 4. Februar 2008 ab. B. Das Sozialversicherungsgericht des Kantons Zürich wies die von B._ erhobene Beschwerde mit Entscheid vom 25. Oktober 2010 ab. C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, es seien ihm unter Aufhebung des vorinstanzlichen Entscheides die gesetzlichen Leistungen, insbesondere eine ganze Invalidenrente zuzusprechen; zudem ersucht er um unentgeltliche Rechtspflege. Während Vorinstanz und Bundesamt für Sozialversicherungen auf Vernehmlassung verzichten, beantragt die IV-Stelle Abweisung der Beschwerde. 