Sachverhalt: A. Der 1950 geborene S._ meldete sich am 4. April 1996 bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf ein MEDAS-Gutachten vom 9. Januar 1998 sprach ihm die IV-Stelle des Kantons Zürich mit Verfügung vom 31. August 1998 basierend auf einem Invaliditätsgrad von 61% eine halbe Rente ab 1. Januar 1996 zu; diesen Anspruch bestätigte sie nach einer Revision mit Schreiben vom 23. Juni 2000. Auch am 4. Dezember 2003 teilte die IV-Stelle S._ mit, der Invaliditätsgrad sei unverändert, ab 1. Januar 2004 habe er Anspruch auf eine Dreiviertelsrente (Verfügung vom 16. Januar 2004), was mit Einspracheentscheid vom 8. Juni 2004 und Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 27. Januar 2005 bestätigt wurde. Mit Verfügung vom 18. Mai 2006, bestätigt mit Einspracheentscheid vom 20. Februar 2007, wies die IV-Stelle ein Rentenerhöhungsgesuch ab. Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 20. November 2007 gut und wies die Sache zu erneuter Abklärung an die IV-Stelle zurück. Nach Einholung eines MEDAS-Gutachtens vom 5. September 2008 lehnte die IV-Stelle das Rentenerhöhungsbegehren mit Verfügung vom 22. Dezember 2008 erneut ab. B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 21. Juni 2010 ab. C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, unter Aufhebung des vorinstanzlichen Entscheides sei ihm eine ganze Invalidenrente basierend auf einem Invaliditätsgrad von 70% zuzusprechen; eventualiter sei die Sache an die IV-Stelle zur weiteren Abklärung zurückzuweisen. Ferner ersucht er um Gewährung der unentgeltlichen Rechtspflege. Die IV-Stelle schliesst auf Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen (BSV) auf eine Vernehmlassung verzichtet. 