Sachverhalt: A. Auf Begehren der X._ AG stellte das Betreibungsamt Schwyz dem Kanton Schwyz am 3. August 2011 im Betreibungsverfahren Nr. 1 einen Zahlungsbefehl über Fr. 590.-- zu. Als Grund der Forderung wurde vermerkt: "Rückbehalt ohne jeglichen Rechtsanspruch"'. Zudem wurde auf das bundesgerichtliche Urteil 5A_494/2010 vom 12. November 2010 verwiesen. Der Kanton Schwyz erhob gleichentags Rechtsvorschlag. B. Am 15. August 2011 ersuchte die X._ AG beim Bezirksgericht Schwyz um Gewährung der definitiven Rechtsöffnung für den in Betreibung gesetzten Betrag. Sie machte unter Hinweis auf verschiedene Belege geltend, das Bundesgericht habe die ihr vom Kantonsgericht Schwyz auferlegte Busse auf Beschwerde hin am 12. November 2010 aufgehoben, weshalb ihr der Kanton Schwyz die Rückzahlung des bereits bezahlten Betrages schulde. Der Einzelrichter wies das Gesuch im Anschluss an die mündliche Rechtsöffnungsverhandlung am 21. September 2011 ab und auferlegte die Gerichtskosten von Fr. 150.-- beiden Parteien je zur Hälfte, unter Wettschlagung der Parteikosten. C. Einzig der Kanton Schwyz gelangte gegen diese Verfügung mit Beschwerde an das Kantonsgericht Schwyz. Er verlangte, dass die Gerichtsgebühr des Rechtsöffnungsverfahrens vollumfänglich der X._ AG oder dem Bezirk Schwyz auferlegt und ihm hierfür eine angemessene Entschädigung zugesprochen werde. Mit Beschluss vom 23. November 2011 hiess das Kantonsgericht die Beschwerde gut, auferlegte die Gerichtsgebühr für das Rechtsöffnungsverfahren je hälftig der X._ AG und dem Bezirk Schwyz und sprach dem Kanton Schwyz eine Parteientschädigung für beide Instanzen von Fr. 400.-- zu. Die Kosten des Beschwerdeverfahrens von Fr. 200.-- auferlegte es der X._ AG. D. Die X._ AG ist gegen den kantonsgerichtlichen Beschluss mit Beschwerde in Zivilsachen vom 13. Dezember 2011 an das Bundesgericht gelangt. Die Beschwerdeführerin beantragt im Wesentlichen, die Kosten- und Entschädigungsfolgen des Rechtsöffnungs- und des kantonalen Beschwerdeverfahrens ausgangsgemäss zu verlegen. Der Kanton Schwyz beantragt, auf die Beschwerde nicht einzutreten, allenfalls diese abzuweisen. Das Kantonsgericht hat vorerst auf eine Vernehmlassung verzichtet und sich alsdann innert laufender Frist zur Sache geäussert. Die Beschwerdeführerin hat auf diese Eingaben geantwortet. 