Sachverhalt: A. Die Sozialversicherungsanstalt des Kantons Zürich legte den Anspruch auf Ergänzungsleistungen des A._ mit Wirkung ab 1. Januar 2014 mit Verfügung vom 3. Januar 2014 und Einspracheentscheid vom 7. Mai 2014 fest. B. Auf eine hiegegen erhobene Beschwerde trat das Sozialversicherungsgericht des Kantons Zürich mit Beschluss vom 20. Juni 2014 nicht ein, da diese verspätet eingereicht worden sei und kein Grund für eine Fristwiederherstellung vorliege. C. A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und die Aufhebung des angefochtenen Beschlusses sowie die Rückweisung der Sache zur materiellen Beurteilung an die Vorinstanz beantragen. Während das Bundesamt für Sozialversicherungen sowie die Beschwerdegegnerin auf eine Vernehmlassung verzichten, trägt die Vorinstanz auf Gutheissung der Beschwerde an. 