Sachverhalt: A. I._ (geboren 1950) ersuchte am 6. Juni 2000 erstmals um Leistungen der Invalidenversicherung. Sein Leistungsbegehren wurde am 30. März 2001 abgewiesen. Sein Begehren vom 28. August 2001 um eine Invalidenrente lehnte die IV-Stelle Luzern mit Verfügung vom 15. Oktober 2002, bestätigt mit Entscheid des Verwaltungsgerichts des Kantons Luzern vom 12. November 2003, ab. Auf sein erneutes Leistungsgesuch vom 31. März 2004 trat die IV-Stelle mit Verfügung vom 11. Juni 2004, bestätigt mit Einspracheentscheid vom 15. September 2004, nicht ein. Auf eine weitere Anmeldung trat die IV-Stelle mit Verfügung vom 22. September 2006 nicht ein. Am 15. November 2007 meldete sich I._ erneut zum Leistungsbezug an. Mit Verfügung vom 26. März 2008 trat die IV-Stelle darauf nicht ein, da keine relevante Verschlechterung des Gesundheitszustandes seit der Verfügung vom 15. Oktober 2002 ausgewiesen sei. B. Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 2. Dezember 2009 ab, wobei es festhielt, die IV-Stelle habe irrtümlicherweise in ihrer Verfügung vom 26. März 2008 auf Nichteintreten anstelle einer Abweisung erkannt. C. I._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, es seien der vorinstanzliche Entscheid aufzuheben, ihm eine angemessene Invalidenrente zuzusprechen resp. seine Invalidität festzustellen und die Akten zur Festlegung der Rente an die IV-Stelle zurückzuweisen. Zudem ersucht er um unentgeltliche Rechtspflege. 