Sachverhalt: A. A.a Der 1959 geborene B._ war ab April 1977 als Kundenmaurer für das Baugeschäft X._ AG tätig und wurde ab 8. September 1992 arbeitsunfähig geschrieben. Am 7./10. September 1992 meldete er sich unter Hinweis auf Rückenschmerzen bei der Invalidenversicherung zum Leistungsbezug an und ersuchte namentlich um Berufsberatung. Die IV-Kommission des Kantons St. Gallen (heute: Sozialversicherungsanstalt des Kantons St. Gallen [SVA], IV-Stelle) führte Abklärungen in erwerblicher und medizinischer Hinsicht durch und liess den Versicherten in der Klinik für Orthopädische Chirurgie, Spital Y._, begutachten (Gutachten vom 22. Oktober 1993). Zusammenfassend wurden eine Spondylolyse L5 mit Spondylolisthesis L5/S1, eine leichte thoraco-lumbale S-Skoliose sowie eine beginnende Diskusdegeneration L4/L5 diagnostiziert und festgestellt, B._ sei in der bisherigen Tätigkeit als Maurer nicht mehr, bei angepasster Tätigkeit ohne dauernde starke Rückenbelastung jedoch 100 % arbeitsfähig. Am 3. Februar 1994 sprach die IV-Stelle dem Versicherten als berufliche Massnahme eine Umschulung zum Kranführer mit Einarbeitung in leichte Hilfsarbeiten zu, wobei B._ während der Massnahme einen Unfall erlitt. Nach einer erneuten Begutachtung in der Klinik für Orthopädische Chirurgie, Spital Y._, am 27. März 1995, bei welcher sich ergab, dass eine Tätigkeit ohne dauernd starke Rückenbelastung zu 100 % durchaus möglich sei und der Versicherte als Kranführer zu mindestens 50 % arbeitsfähig sein sollte, sprach die IV-Stelle B._ mit Verfügung vom 3. November 1995 ab 1. September 1993 bei einem Invaliditätsgrad von 50 % eine halbe Rente zu. Mit Verfügung vom 5. August 1998 wurde dem Versicherten wegen vorübergehender Verschlechterung vom 1. Dezember 1997 bis 31. Mai 1998 eine ganze Rente zugesprochen. Nachdem B._ wiederum eine Verschlechterung seines Gesundheitszustandes geltend gemacht hatte, wurden weitere medizinische Abklärungen getroffen und die Meinung des RAD eingeholt. Mit Verfügung vom 12. Januar 2001 sprach die IV-Stelle dem Versicherten ab 1. Januar 1999 eine ganze Rente zu und sah auf 1. Januar 2001 eine Rentenrevision vor. Im Rahmen des am 2. Februar 2001 eingeleiteten Revisionsverfahrens fand eine Begutachtung durch die Medizinische Abklärungsstelle (MEDAS) statt (Gutachten vom 30. Januar 2002 und Ergänzungsbericht vom 23. Mai 2002). Gestützt darauf hielt die IV-Stelle im Feststellungsblatt vom 6. Juni 2002 fest, es liege kein Revisionsgrund vor, ohne jedoch das Revisionsverfahren förmlich abzuschliessen. A.b Im Rahmen eines im Juli 2005 erneut eingeleiteten Revisionsverfahrens setzte die IV-Stelle mit Verfügung vom 26. Mai 2006 den Rentenanspruch des Versicherten bei einem Invaliditätsgrad von neu 50 % mit Wirkung ab 1. Juli 2006 auf eine halbe Rente herab. Dagegen liess B._ Einsprache erheben und u.a. Gewährung der aufschiebenden Wirkung beantragen. Mit Verfügung vom 23. Mai 2007 hob die IV-Stelle wiedererwägungsweise die Verfügung vom 12. Januar 2001 auf und setzte den Anspruch des Versicherten ab 1. Januar 1999 auf eine ganze Rente und ab 1. Mai 2000 auf eine halbe Rente bei einem Invaliditätsgrad von 50 % fest. Das Versicherungsgericht des Kantons St. Gallen hob die Wiedererwägungsverfügung vom 23. Mai 2007 mit Entscheid vom 7. Oktober 2008 auf. Der Versicherte liess um Fortsetzung des Einspracheverfahrens gegen die Verfügung vom 26. Mai 2006 ersuchen und neue medizinische Berichte nachreichen, welche die weitere Verschlechterung seines Gesundheitszustandes, u.a. durch Erleiden eines Herzinfarktes im Juli 2009, dokumentieren sollten. Am 28. Januar 2010 verfügte die IV-Stelle die Abweisung des Gesuchs um Wiederherstellung der aufschiebenden Wirkung. Das Versicherungsgericht des Kantons St. Gallen hob diese Verfügung auf Beschwerde hin mit Entscheid vom 16. August 2010 auf und stellte die aufschiebende Wirkung der Einsprache wieder her, dies im Wesentlichen mit der Begründung, der Ausgang des Einspracheverfahrens sei eindeutig und müsse aller Voraussicht nach in einer Gutheissung der Einsprache münden. Zuvor hatte die IV-Stelle nach Einholung eines Verlaufsberichts der MEDAS vom 25. Mai 2010 dem Versicherten im Rahmen der Gewährung des rechtlichen Gehörs im Einspracheverfahren am 15. Juni 2010 mitgeteilt, sie beabsichtige, die Einsprache mit der substituierten Begründung der Wiedererwägung der Verfügung vom 3. November 1995 abzuweisen und ab Oktober 2009 eine Anpassung vorzunehmen. Mit Einspracheentscheid vom 22. September 2010 wies die IV-Stelle die Einsprache, soweit sie sich gegen die Verfügung vom 26. Mai 2006 richte, ab und stellte fest, der Versicherte habe ab 1. Oktober 2009 Anspruch auf eine Dreiviertelsrente. Zur Begründung führte sie im Wesentlichen aus, die Verfügung vom 3. November 1995 sei unhaltbar falsch gewesen und daher wiedererwägungsweise aufzuheben, womit auch die beiden Verfügungen vom 2. Oktober 1998 und 12. Januar 2001 aufzuheben seien und der Fall wie bei einer erstmaligen Prüfung zu beurteilen sei. Die mit Verfügung vom 26. Mai 2006 zugesprochene halbe Rente sei im Ergebnis nicht zu beanstanden, weshalb sie mit der substituierenden Begründung der Wiedererwägung zu bestätigen sei. Zufolge der im MEDAS-Gutachten vom 25. Mai 2010 dargelegten Verschlechterung bestehe ab Oktober 2009 Anspruch auf eine Dreiviertelsrente. B. Die gegen den Einspracheentscheid vom 22. September 2010 erhobene Beschwerde, mit welcher B._ beantragen liess, es sei ihm auch über den 1. Juli 2006 hinaus eine ganze Invalidenrente auszurichten, wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 29. März 2011 mit substituierter Begründung der revisionsweisen Rentenherabsetzung ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt B._ beantragen, der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 29. März 2011, der Einspracheentscheid der IV-Stelle vom 22. September 2010 sowie deren Verfügung vom 26. Mai 2006 seien aufzuheben und es sei ihm unverändert auch über den 1. Juli 2006 hinaus eine ganze Invalidenrente zuzusprechen, eventualiter sei die Sache an die IV-Stelle, subeventualiter an die Vorinstanz zurückzuweisen, damit diese nach formgerecht durchgeführtem Verfahren und ergänzender Abklärung, insbesondere nach einer neuen interdisziplinären Verlaufsbegutachtung, über den Rentenanspruch neu verfüge. Das Versicherungsgericht des Kantons St. Gallen und die IV-Stelle schliessen auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung. Mit Eingabe vom 30. Juni 2011 lässt sich B._ zu den Eingaben der Vorinstanz und der IV-Stelle vernehmen. 