Sachverhalt: A. Der 1988 geborene äthiopische Staatsangehörige A._ ist abgewiesener Asylbewerber, dessen Ausreisefrist am 29. September 2008 abgelaufen ist. Seit Oktober 2008 bezieht er in der Gemeinde Y._ Nothilfe. Seine Partnerin, C._, und der am 3. April 2012 geborene und von ihm anerkannte gemeinsame Sohn D._ sind in der Schweiz aufenthaltsberechtigt und wohnen in X._. Das Gesuch von A._, Nothilfe in X._ zu beziehen, wies das Sozialamt der Stadt X._ am 25. Juli 2012 ab. Dies bestätigte der Stadtrat X._ am 27. August 2012. Den von A._ dagegen erhobenen Rekurs wies das Sicherheits- und Justizdepartement des Kantons St. Gallen (SJD) mit Entscheid vom 20. Juni 2013 ab. B. Das Verwaltungsgericht des Kantons St. Gallen wies die Beschwerde des A._ mit Entscheid vom 16. April 2014 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, in Aufhebung des vorinstanzlichen Entscheids sei die Gemeinde X._ zu verpflichten, auf das Gesuch um Nothilfe einzutreten; eventuell sei die Sache zwecks Ergänzung des Sachverhalts an die Vorinstanz zurückzuweisen. Zudem wird um unentgeltliche Rechtspflege ersucht. Der Stadtrat X._ verzichtet auf eine Vernehmlassung. Das kantonale Gericht schliesst unter Hinweis auf den angefochtenen Entscheid auf Abweisung der Beschwerde. A._ hat sich am 2. und am 10. September 2014 nochmals geäussert. 