Sachverhalt: A. Der Gemeinderat der Einwohnergemeinde Burgdorf erteilte im November 2006 dem Institut für Konfliktmanagement und Mythodrama (IKM) unter der Leitung von Prof. Dr. Allan Guggenbühl den Auftrag, eine Studie mit dem Titel "Gewalt in Burgdorf?" zu verfassen. Die Studie, die der Öffentlichkeit vorgestellt und auf der Website der Stadt Burgdorf veröffentlicht wurde, basiert im Wesentlichen auf 19 Interviews mit sogenannten Schlüsselpersonen, welche zuvor vom Gemeinderat bestimmt worden waren. Mit Eingabe vom 6. August 2007 stellte X._ ein Gesuch um Einsicht in die Liste der Personen, die für die Interviews vorgesehen waren. Der Gemeinderat verweigerte die Einsicht. Die dagegen beim Regierungsstatthalteramt Burgdorf (heute: Regierungsstatthalteramt Emmental) erhobene Beschwerde blieb erfolglos. Auf Beschwerde hin beabsichtigte das Verwaltungsgericht des Kantons Bern, Frau Prof. Dr. Carolyn C. Morf mit der Erstellung eines Gutachtens zur Anonymität von interviewten Personen im Rahmen der qualitativen Sozialforschung zu beauftragen. X._ lehnte die Gutachterin ab. Mit einer Zwischenverfügung vom 9. März 2009 wurde das Ablehnungsbegehren abgewiesen und der Gutachterauftrag erteilt. Daraufhin wies das Verwaltungsgericht die Beschwerde von X._ am 30. April 2010 ab. Die Kosten des Verfahrens, zusammengesetzt aus einer Pauschalgebühr von Fr. 3'000.-- und den Kosten des Gutachtens von Fr. 5'649.--, wurden dem Beschwerdeführer auferlegt. In der Folge hiess das Bundesgericht die Beschwerde von X._ mit Urteil vom 29. Oktober 2010 gut (Verfahren 1C_284/2010), hob das angefochtene Verwaltungsgerichtsurteil auf und ordnete an, dass in die Liste der Personen, welche der Gemeinderat Burgdorf zur Durchführung der Studie "Gewalt in Burgdorf?" zusammengestellt hatte, Einsicht zu gewähren sei. Die Angelegenheit wurde zu neuem Entscheid im Kostenpunkt an das Verwaltungsgericht zurückgewiesen. B. Der Einzelrichter am Verwaltungsgericht des Kantons Bern beurteilte den Kostenpunkt neu und entschied am 18. November 2010, dass die Kosten des Zwischenentscheids vom 9. März 2009 im Umfang von Fr. 500.-- X._ auferlegt und die übrigen Verfahrenskosten nicht erhoben werden. Gegen diesen Entscheid hat X._ beim Bundesgericht am 22. Dezember 2010 Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Er beantragt, das Urteil des Einzelrichters aufzuheben und ihn von einer Kostenauflage im verwaltungsgerichtlichen Verfahren zu entbinden. Das Verwaltungsgericht beantragt die Abweisung der Beschwerde, die Stadt Burgdorf hat auf eine Stellungnahme verzichtet und das Regierungsstatthalteramt Emmental hat sich nicht vernehmen lassen. Der Beschwerdeführer hat zur Vernehmlassung des Verwaltungsgerichts eine Replik eingereicht. 