Sachverhalt: A. Die Ehegatten X._ und Y._ sind die Eltern von Z._, geboren am xxxx 2007. Am 1. November 2007 ernannte die Vormundschaftbehörde A._ dem Kind einen Beistand und erteilte den Eltern Weisungen. Mit Beschluss vom 11. Mai 2009 entzog die Behörde ihnen die Obhut über das Kind und brachte es zur pädiatrischen und psychiatrischen Abklärung in der Klinik für Kinder und Jugendliche des Kantonspitals B._ unter. Dagegen erhoben X._ und Y._ Beschwerde beim Departement für Justiz und Sicherheit des Kantons Thurgau (nachfolgend: DJS) und verlangten insbesondere, Z._ für die Dauer des Obhutsentzugs bei den Grosseltern unterzubringen. Zudem ersuchten sie um Gewährung der unentgeltlichen Rechtspflege. Mit Zwischenentscheid vom 5. Juni 2006 bewilligte das DJS den Beschwerdeführern die unentgeltliche Rechtpflege. Da ihr Rechtsvertreter nicht als Anwalt im thurgauischen Register eingetragen ist, wurde er nicht zum unentgeltlichen Rechtsbeistand ernannt. In der Folge nahm Rechtsanwältin W._ bis am 27. November 2009 die Interessen der Beschwerdeführer wahr. Am 10. Oktober 2009 meldeten sich X._ und Y._ nach C._ ab. Die Vormundschaftsbehörde A._ ersuchte diejenige von C._ am 4. Januar 2010 um Übernahme der Beistandschaft für Z._. Durch den nunmehr bestellten Rechtsvertreter Adriano Marti zogen sie am 7. Januar 2010 die Beschwerde zurück, worauf das DJS das Verfahren mit Entscheid vom 29. Januar 2010 als erledigt abschrieb (Ziff. 1). Die Kosten für den bereits erteilten Gutachterauftrag sowie die Entscheidgebühr wurde den Beschwerdeführern auferlegt (Ziff. 2). Zudem entschädigte das DJS Rechtsanwältin W._ für ihre unentgeltliche Rechtsvertretung mit Fr. 5'013.70 (Ziff. 3). Rechtsanwalt Adriano Marti wurde hingegen den Beschwerdeführern nicht als unentgeltlicher Rechtsvertreter bewilligt und für seine Tätigkeit nicht entschädigt (Ziff. 4). B. Gegen die Kosten- und Entschädigungsregelung sowie die Verweigerung des unentgeltlichen Rechtsbeistandes durch das DJS gelangten X._ und Y._ an das Verwaltungsgericht des Kantons Thurgau. Sie verlangten zudem für das Rechtsmittelverfahren die unentgeltliche Rechtspflege. Das Verwaltungsgericht hiess die Beschwerde teilweise gut und hob Ziff. 2 des Departementsentscheides auf. Es erhob keine Kosten und wies das Gesuch ab, Rechtsanwalt Adriano Marti zum unentgeltlichen Rechtsbeistand vor seiner Instanz zu ernennen. C. X._ und Y._ sind mit Beschwerde in Zivilsachen vom 6. September 2010 an das Bundesgericht gelangt. Die Beschwerdeführer beantragen die Ernennung von Rechtsanwalt Adriano Marti zum unentgeltlichen Rechtsbeistand für das Verfahren vor dem DJS und die Rückweisung der Sache zur Festlegung seiner Entschädigung. Für das Verfahren vor dem Verwaltungsgericht verlangen sie die volle Prozessentschädigung von Fr. 2'400.--. Zudem stellen sie für das bundesgerichtliche Verfahren das Gesuch um unentgeltliche Rechtspflege. Das DJS und das Verwaltungsgericht schliessen auf Abweisung der Beschwerde. 