Sachverhalt: A. Mit Verfügung vom 12. Februar 2008, welche sich in medizinischer Hinsicht auf ein polydisziplinäres Gutachten des Instituts X._, vom 16. Juli 2007 stützte, sprach die IV-Stelle Bern S._ rückwirkend ab 1. Januar 2003 eine Viertelsrente der Invalidenversicherung zu. Die hiegegen eingereichte Beschwerde mit dem Rechtsbegehren um Gewährung einer halben statt der Viertelsrente zog der Versicherte am 27. April 2010 zurück, nachdem ihm seitens des Verwaltungsgerichts des Kantons Bern eine mögliche Schlechterstellung in Aussicht gestellt und Gelegenheit zum Rückzug des Rechtsmittels gegeben worden war. Mit Entscheid vom 28. April 2010 schrieb das Verwaltungsgericht das Verfahren vom Geschäftsprotokoll ab. Im Dezember 2010 leitete die IV-Stelle Bern von Amtes wegen ein Revisionsverfahren ein. S._ erklärte, sein Gesundheitszustand habe sich seit 2007 verschlimmert. Nach Beizug verschiedener Arztberichte hob die IV-Stelle die Verfügung vom 12. Februar 2008 zu Folge zweifelloser Unrichtigkeit am 6. Oktober 2011 auf Ende November 2011 wiedererwägungsweise auf. B. Die hiegegen erhobene Beschwerde, mit welcher der Versicherte beantragt hatte, die Wiedererwägungsverfügung sei aufzuheben und es sei ihm weiterhin eine Invalidenrente auszurichten, hiess das Verwaltungsgericht des Kantons Bern teilweise gut und hob die angefochtene Verfügung vom 6. Oktober 2011 insoweit auf, als es die Sache zur Vornahme weiterer Abklärungen über den Gesundheitszustand des Versicherten bei Erlass dieser Verfügung und neuer Entscheidung an die IV-Stelle zurückwies; soweit die Wiedererwägung der Verfügung vom 12. Februar 2008 betreffend, wies es die Beschwerde ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt S._ beantragen, der vorinstanzliche Entscheid sei soweit aufzuheben, als er die Verfügung vom 6. Oktober 2011 bestätigt. Ferner ersucht er um die Bewilligung der unentgeltlichen Rechtspflege. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 