Sachverhalt: A. R._ (geboren am 3. April 1949) arbeitete ab 7. Januar 1991 als Automechaniker bei der Firma X._ AG. Wegen Rückenbeschwerden war er ab dem 15. Januar 2001 teils vollständig, teils im Ausmass von 50 % arbeitsunfähig. Vom 10. September 2001 an setzte ihn die Arbeitgeberin nur noch als Hilfsmechaniker, insbesondere für die Radmontage, ein. Im November 2001 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärung der medizinischen und erwerblichen Verhältnisse sprach ihm die IV-Stelle des Kantons Zürich mit Verfügung vom 22. Mai 2002 nach Ermittlung eines Invaliditätsgrades von 67 % mit Wirkung ab 1. Januar 2002 eine ganze Invalidenrente nebst Ehegattenzusatzrente sowie Kinderrente zu. Bei Rentenbeginn dauerte das Arbeitsverhältnis noch an. Im Rahmen eines im Januar 2003 eingeleiteten Revisionsverfahrens bestätigte sie die Invalidenrente mit Mitteilung vom 21. Februar 2003. Am 1. April 2008 leitete die IV-Stelle ein weiteres Revisionsverfahren ein. Nach verschiedenen Abklärungen und nach Einholen eines Gutachtens des Zentrums Y._ GmbH vom 6. November 2008 sowie nach Durchführen des Vorbescheidverfahrens setzte die IV-Stelle mit Verfügung vom 13. Oktober 2009 die ganze Invalidenrente auf eine Viertelsrente per 1. Dezember 2009 herab. B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. März 2011 ab. C. R._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides sei ihm weiterhin eine volle (recte: ganze) Invalidenrente auszurichten. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 