Sachverhalt: A. A. und B.X._ ersuchten am 23. März 2008 um Erlass der rechtskräftig festgesetzten Kantons- und Gemeindesteuern sowie der direkten Bundessteuer für das Jahr 2005. Die Steuerverwaltung der Einwohnergemeinde W._ wies das Gesuch und die Steuerrekurskommission des Kantons Bern eine Beschwerde dagegen ab. Das Verwaltungsgericht des Kantons Bern trat in der Folge wegen Überschreitung der Rechtsmittelfrist auf die Beschwerde und auf das gegen diesen Entscheid gerichtete Revisionsbegehren nicht ein. Die gleichzeitig erhobene subsidiäre Verfassungsbeschwerde hiess das Bundesgericht, soweit es darauf eintrat, am 23. November 2010 jedoch gut und wies die Sache zum Neuentscheid an das Verwaltungsgericht zurück (Verfahren 2D_37/2010, 2D_42/2010). Gestützt auf den Rückweisungsentscheid urteilte das Verwaltungsgericht erneut; es wies die Beschwerde ab, erhob keine Gerichtskosten und schrieb infolgedessen das Gesuch um unentgeltliche Rechtspflege infolge Gegenstandslosigkeit ab. B. Vor Bundesgericht beantragen A. und B.X._ im Wesentlichen, das Urteil des Verwaltungsgerichts des Kantons Bern, Verwaltungsrechtliche Abteilung, Einzelrichter, vom 21. Juli 2011 aufzuheben und ihnen den Steuererlass sowie die unentgeltliche Prozessführung zu gewähren. Für das bundesgerichtliche Verfahren ersuchen sie um aufschiebende Wirkung sowie Durchführung einer öffentlichen und mündlichen Hauptverhandlung. C. Am 16. September und am 15. Oktober 2011 reichten die Beschwerdeführer weitere Unterlagen, insbesondere ein Gutachten zur gesundheitlichen Situation der Familie, ein. Das Bundesgericht hat die Akten bei den Vorinstanzen eingeholt. 