Sachverhalt: A. A._, geboren 1973, meldete sich im April 2012 unter Hinweis auf Methadon-Einnahme, Alkoholkonsum und Depression bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich holte in der Folge einen Bericht der Klinik B._ vom 27. Juni 2012 sowie eine Stellungnahme des Dr. med. C._, Facharzt Arbeitsmedizin des Regionalen Ärztlichen Dienstes (RAD) vom 22. August 2012 ein. Nach Durchführung des Vorbescheidverfahrens wies die IV-Stelle mit Verfügung vom 29. Oktober 2012 den Anspruch auf Leistungen der Invalidenversicherung ab. B. Die dagegen erhobene Beschwerde, in deren Folge u.a. ein Arztbericht des med. pract. D._, Facharzt für Psychiatrie und Psychotherapie FMH, vom 18. April 2013 eingereicht wurde, wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 30. Oktober 2013 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Versicherte beantragen, in Aufhebung des kantonalen Gerichtsentscheides sei die Sache an die Vorinstanz (eventualiter an die IV-Stelle) zurückzuweisen, damit sie ein unabhängiges psychiatrisches Gutachten in Auftrag gebe. Zudem wird um Gewährung der unentgeltlichen Rechtspflege ersucht. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. 