Sachverhalt: Sachverhalt: A. X._ führt als Naturheilpraktiker eine homöopathische Praxis in A._, Kanton Schwyz. Er ist seit dem 1. Januar 1996 im Register für Mehrwertsteuerpflichtige eingetragen. Mit Schreiben vom 28. Dezember 2000 beantragte er, per 1. Januar 2001 von der Mehrwertsteuerpflicht befreit zu werden, weil er ab diesem Zeitpunkt als Homöopath nicht mehr mehrwertsteuerpflichtig sei und weil der jährliche Umsatz aus Medikamentenverkäufen die erforderliche Grenze von Fr. 75'000.-- nicht übersteige. Die Eidgenössische Steuerverwaltung lehnte in der Folge die verlangte Löschung ab (letztmals mit Brief vom 16. August 2001). Mit Ergänzungsabrechnung vom 26. Oktober 2001 forderte die Eidgenössische Steuerverwaltung für das 1. und 2. Quartal 2001 aufgrund einer Schätzung einen Steuerbetrag von Fr. 6'400.-- nach. Diese Abrechnung wurde von X._ mit der Begründung retourniert, sein Löschungsbegehren sei immer noch nicht behandelt worden. Im Entscheid vom 5. November 2001 hielt die Eidgenössische Steuerverwaltung unter Hinweis auf die geführte Korrespondenz fest, dass eine Löschung zu Recht nicht erfolgt sei; gleichzeitig bestätigte sie die Nachforderung über Fr. 6'400.--. Eine Einsprache von X._ wurde am 7. Juli 2003 abgewiesen, im Wesentlichen mit der Begründung, für eine Steuerbefreiung fehle es an der erforderlichen Berufsausübungsbewilligung. Eine Einsprache von X._ wurde am 7. Juli 2003 abgewiesen, im Wesentlichen mit der Begründung, für eine Steuerbefreiung fehle es an der erforderlichen Berufsausübungsbewilligung. B. Die Eidgenössische Steuerrekurskommission wies am 19. April 2005 eine Beschwerde von X._ ab und bestätigte den Einspracheentscheid vom 7. Juli 2003. B. Die Eidgenössische Steuerrekurskommission wies am 19. April 2005 eine Beschwerde von X._ ab und bestätigte den Einspracheentscheid vom 7. Juli 2003. C. X._ hat am 18. Mai 2005 Verwaltungsgerichtsbeschwerde beim Bundesgericht erhoben. Er beantragt, den Entscheid der Eidgenössischen Steuerrekurskommission vom 19. April 2005 aufzuheben. Ferner sei festzustellen, dass er, der Beschwerdeführer, als Leistungserbringer für Heilbehandlungen im Sinn des Mehrwertsteuergesetzes gelte, mit Wirkung ab dem 31. Dezember 2000 aus dem Register der Mehrwertsteuerpflichtigen zu streichen sei und ab dem 1. Januar 2001 keine Mehrwertsteuer zu bezahlen habe. Der Beschwerdeführer macht geltend, die Vorinstanz gehe zu Unrecht davon aus, dass für eine Steuerbefreiung nach der anwendbaren Bestimmung eine Berufsausübungsbewilligung erforderlich sei. Er rügt damit sinngemäss eine Verletzung von Bundesrecht (Art. 104 lit. a OG). Die Eidgenössische Steuerverwaltung beantragt, die Beschwerde abzuweisen. Die Eidgenössische Steuerrekurskommission hat auf eine Vernehmlassung verzichtet. 