Sachverhalt: A. Mit Verfügungen vom 25. Oktober 2006 sprach die IV-Stelle Luzern E._, geboren 1952, ab 1. März 2005 und ab 1. Oktober 2005 eine ganze Invalidenrente, ab 1. März 2006 eine Dreiviertelsrente und ab 1. April 2006 eine Viertelsrente zu. B. Die dagegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Luzern mit Entscheid vom 6. März 2008 ab. C. E._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des angefochtenen Entscheides sei die Sache zur ergänzenden medizinischen Abklärung zurückzuweisen, eventualiter sei ihm ab Oktober 2002 eine ganze Invalidenrente zuzusprechen. Des Weiteren ersucht er um unentgeltliche Verbeiständung. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 