Sachverhalt: A. Der deutsche Staatsangehörige X._ (geb. 1948) reiste am 15. Februar 2006 in die Schweiz ein und erhielt zur Vorbereitung einer selbständigen Erwerbstätigkeit als Geschäftsführer der Y._ GmbH eine bis zum 14. August 2011 gültige Aufenthaltsbewilligung EG/EFTA. Das Migrationsamt des Kantons Thurgau verfügte am 27. Mai 2008 - mit der Begründung, sein Verhalten in Deutschland habe zu schweren Klagen Anlass gegeben - den Widerruf der Aufenthaltsbewilligung von X._ sowie dessen Wegweisung aus der Schweiz. Hiergegen rekurrierte X._ ohne Erfolg beim Departement für Justiz und Sicherheit des Kantons Thurgau. Gegen den Rekursentscheid beschwerte er sich sodann beim Verwaltungsgericht des Kantons Thurgau, das die Beschwerde mit Urteil vom 9. September 2009 abwies. Das Verwaltungsgericht kam zum Schluss, der angefochtene Widerruf der Aufenthaltsbewilligung erweise sich gestützt auf das Freizügigkeitsabkommen aus Gründen der öffentlichen Ordnung und Sicherheit (strafrechtliches Verhalten, wirre staatspolitische Ideen sowie wirtschaftliche Situation des Ausländers) als gerechtfertigt. B. Mit Eingabe vom 24. Oktober 2009 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt sinngemäss die Aufhebung des vorinstanzlichen Urteils. Zudem stellt er diverse "beweissichernde Feststellungsanträge". C. Das Verwaltungsgericht, das Departement für Justiz und Sicherheit und das Migrationsamt des Kantons Thurgau sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Der Beschwerdeführer hält in seiner Replik im Wesentlichen an seinen Anträgen und seiner Rechtsauffassung fest. D. Mit Verfügung vom 2. November 2009 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt. 