Sachverhalt: A. A.a Der 1972 geborene R._, welcher über keine abgeschlossene Berufsausbildung verfügt, war vom 1. April 1992 bis 30. April 2000 bei der C._ AG als Produktionsmitarbeiter tätig. Danach war er bei der P._ AG als Temporärmitarbeiter mit Einsatz in verschiedenen Hilfsarbeiten angestellt. Zuletzt leistete er vom 2. Dezember 2002 bis 28. Februar 2003 einen Einsatz als Lagerist/Allrounder bei der A._ AG. Nach Beendigung dieses Einsatzes wurde das Temporär-Arbeitsverhältnis gekündigt. Im Rahmen eines Beschäftigungsprogramms der Arbeitslosenversicherung war R._ schliesslich vom 3. Januar bis 2. Juli 2011 in der Werkstatt V._ beschäftigt. A.b Ende Januar 2004 meldete sich R._ bei der IV-Stelle Obwalden zum Rentenbezug an. Nach Einholen von Gutachten der Medizinischen Abklärungsstelle X._ vom 29. Juni 2005 und des Instituts für forensische Psychiatrie und Psychotherapie Y._ vom 26. Juli 2007 sprach die IV-Stelle Obwalden R._ mit Verfügung vom 8. Februar 2008 für die Zeit vom 1. Dezember 2004 bis 30. November 2005 eine befristete halbe Invalidenrente zu. Die hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 12. Mai 2009 gut und wies die Sache zu weiteren Abklärungen an die IV-Stelle zurück. A.c Daraufhin veranlasste die IV-Stelle eine medizinische Begutachtung am Medizinischen Zentrum Z._ (Gutachten vom 7. Juni 2010). Nach durchgeführtem Einwandverfahren sprach die IV-Stelle R._ mit Verfügung vom 8. Februar 2011 wiederum eine befristete halbe Invalidenrente vom 1. Dezember 2004 bis 30. November 2005 zu. B. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Obwalden mit Entscheid vom 2. April 2012 unter Gewährung der unentgeltlichen Prozessführung und Verbeiständung ab. C. R._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, es sei ihm in Aufhebung des vorinstanzlichen Entscheides vom 1. Dezember 2005 bis Juli 2011 eine halbe Invalidenrente und ab August 2011 bis Juli 2013 (Ausbildung zum Logistiker) IV-Taggelder zuzusprechen, und nach Abschluss der Eingliederungsphase anfangs August 2013 sei über den zukünftigen Leistungsanspruch neu zu entscheiden. Ferner sei ihm für das letztinstanzliche Verfahren die unentgeltliche Prozessführung und Verbeiständung zu gewähren. 