Sachverhalt: A. A._ stellte am 5. Januar 2012 für sich und seine drei Kinder B._, geb. 2000, C._, geb. 2008, sowie D._, geb. 2011, beim Migrationsamt des Kantons Basel-Stadt ein Gesuch um Einbürgerung. Das Migrationsamt leitete das Gesuch an die Bürgergemeinde der Stadt Basel weiter. Dieses bot A._ nach Prüfung der Einbürgerungsvoraussetzungen am 25. März 2013 an, das Gesuch mangels genügenden Leumunds und erforderlicher wirtschaftlicher und sozialer Integration zurückzuziehen. Nachdem A._ einen Rückzug abgelehnt hatte, wies der Bürgerrat der Stadt Basel das Einbürgerungsgesuch am 20. August 2013 ab. Diesen Entscheid eröffnete das Justiz- und Sicherheitsdepartement des Kantons Basel-Stadt A._ am 17. Oktober 2013. B. Dagegen erhob A._ für sich und seine Kinder Rekurs beim Regierungsrat des Kantons Basel-Stadt. Das Präsidialdepartement des Kantons überwies den Rekurs dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht. Dieses wies den Rekurs am 12. Juni 2014 ab. C. Mit subsidiärer Verfassungsbeschwerde vom 31. Juli 2014 an das Bundesgericht beantragt A._ sinngemäss, das Urteil des Appellationsgerichts sowie den Entscheid des Bürgerrates aufzuheben. Im Wesentlichen macht er geltend, es verstosse gegen Verfassungsrecht, bei ihm die Voraussetzungen der Einbürgerung zu verneinen. In verfahrensrechtlicher Hinsicht wird um Gewährung der aufschiebenden Wirkung sowie um unentgeltliche Rechtspflege ersucht. D. Die Bürgergemeinde der Stadt Basel stellt Antrag auf Abweisung der Beschwerde. Das Justiz- und Sicherheitsdepartement sowie das Appellationsgericht des Kantons Basel-Stadt schliessen unter Verzicht auf weitere Ausführungen ebenfalls auf Abweisung der Beschwerde. E. Weitere Eingaben gingen beim Bundesgericht nicht ein. 