Sachverhalt: A. Der 1952 geborene A._ arbeitete seit 1973 als Maurer. Am 14. Juni 2004 meldete er sich bei der Invalidenversicherung zum Leistungsbezug an. Mit unangefochten in Rechtskraft erwachsenen Verfügungen vom 27. und 30. August 2004 verneinte die IV-Stelle des Kantons Zürich nach Vornahme medizinischer Abklärungen den Anspruch auf berufliche Massnahmen und Invalidenrente. Nach einer Neuanmeldung des Versicherten vom 16. Januar 2006 und erneuten medizinischen Untersuchungen wies sie das Rentengesuch mit unangefochten in Rechtskraft erwachsener Verfügung vom 16. März 2007 ab. Am 22. Juli 2008 meldete er sich wiederum zum Leistungsbezug an. Die IV-Stelle zog verschiedene Arztberichte und ein Gutachten des Dr. med. K._, FMH Psychiatrie und Psychotherapie, vom 16. April 2009 und Ergänzung vom 27. Juli 2009 bei. Mit Verfügung vom 3. September 2009 verneinte sie den Rentenanspruch erneut. B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 18. April 2011 ab. C. Mit Beschwerde beantragt der Versicherte, in Aufhebung des kantonalen Entscheides sei ihm eine ganze Invalidenrente auszurichten. Er verlangt die Gewährung der unentgeltlichen Rechtspflege. 