Sachverhalt: A. Im Strafverfahren gegen den Untersuchungsgefangenen A._ wurde Rechtsanwalt X._ als amtlicher Verteidiger eingesetzt. A._ wurde u.a. vorgeworfen, am 2. Mai 2006 die damals minderjährige B._ vergewaltigt zu haben. Im Spätsommer bzw. Herbst 2006 habe A._ zudem versucht, B._ umzubringen, indem er sie mit seinem Auto überfahren wollte; das Mädchen habe sich nur mittels eines Sprungs zur Seite retten können. Im Zusammenhang mit dem A._ zur Last gelegten Tötungsversuch beantragte Rechtsanwalt X._ mit Eingaben vom 21. Juni und vom 29. Juni 2007 die untersuchungsrichterliche Einvernahme von C._: Letzterer sei gemäss den Angaben von A._ öfters mit dessen Fahrzeug unterwegs gewesen. Zudem habe C._ gegenüber A._ im Spätsommer bzw. Herbst 2006 erklärt, bei einer dieser Fahrten B._ begegnet zu sein. Mit Schreiben vom 11. Juli 2007 teilte das zuständige Untersuchungsamt Rechtsanwalt X._ mit, dass auf die beantragte Zeugeneinvernahme einstweilen verzichtet werde. Daraufhin meldete sich Rechtsanwalt X._ am 28. August 2007 ein erstes Mal direkt bei C._ und ersuchte diesen um eine Unterredung in Sachen A._. Am 4. September 2007 kontaktierte er C._ erneut, worauf es am folgenden Tag, dem 5. September 2007, in seiner Kanzlei zu einem Treffen kam. Über den genauen Inhalt des bei dieser Gelegenheit geführten Gesprächs gehen die Darstellungen von Rechtsanwalt X._ und C._ auseinander. Unbestritten ist jedoch, dass Rechtsanwalt X._ sich bei C._ erkundigt hat, ob dieser zur fraglichen Zeit den Wagen von A._ benutzt habe und dabei B._ begegnet sei. B. Mit Verfügung vom 12. Juni 2008 wurde Rechtsanwalt X._ von der Anwaltskammer des Kantons St. Gallen wegen Verletzung der Berufspflichten mit einer Busse von Fr. 6'000.-- diszipliniert. Die Anwaltskammer warf X._ vor, er habe C._ in unzulässiger Weise privat befragt und auf diese Weise eine Beeinflussung des Zeugen zumindest in Kauf genommen. Gegen diesen Entscheid beschwerte sich X._ beim Kantonsgericht St. Gallen. Dieses wies die Beschwerde mit Entscheid vom 16. November 2009 ab. C. Mit Eingabe vom 4. Januar 2010 führt X._ "Bundesgerichtsbeschwerde" (recte: Beschwerde in öffentlich-rechtlichen Angelegenheiten): Er beantragt die Aufhebung des vorinstanzlichen Entscheids sowie die Rückweisung der Angelegenheit an das Kantonsgericht St. Gallen. Das Kantonsgericht St. Gallen lässt sich zur Beschwerde vernehmen, ohne in der Sache selbst einen Antrag zu stellen. Die Anwaltskammer des Kantons St. Gallen sowie das Bundesamt für Justiz verzichten auf eine einlässliche Vernehmlassung. 