Sachverhalt: A. Der aus dem Kosovo stammende A._, geb. 26. Juli 1957, heiratete 1988 eine Schweizerin (geb. 1949), worauf ihm die Aufenthaltsbewilligung im Kanton Thurgau erteilt wurde. Am 4. Oktober 1994 wurde er erleichtert eingebürgert. Die Ehe wurde am 14. Februar 2001 vom Bezirksgericht in Arbon rechtskräftig geschieden. Am 27. November 2003 verstarb seine vormalige Ehefrau. Während seiner Ehe unterhielt A._ in seinem Heimatland eine Beziehung mit der Landsfrau B._, geb. 20. November 1965, aus welcher die vier Kinder C._ (geb. 10. Oktober 1990), D._ (geb. 10. Februar 1992), E._ (geb. 15. April 1995) und F._ (geb. 9. Juli 2001) hervorgingen. Die beiden letztgenannten Kinder erhielten durch Abstammung das Schweizer Bürgerrecht. Am 15. August 2001 gingen A._ und B._ die Ehe ein. B. Mit Verfügung vom 10. Juli 2006 wies das Migrationsamt des Kantons Thurgau ein von A._ am 8. Dezember 2005 eingereichtes Gesuch um Familiennachzug für seine Ehefrau und die beiden Kinder C._ und D._ ab. Ein Rekurs an das Departement für Justiz und Sicherheit des Kantons Thurgau blieb erfolglos (Entscheid vom 16. Oktober 2007). Das Departement begründete die Verweigerung des Familiennachzugs im Wesentlichen damit, dass ein Fall von Rechtsmissbrauch vorliege und zudem die Gefahr einer Fürsorgeabhängigkeit bestehe. C. Mit Entscheid vom 6. Februar 2008 hiess das Verwaltungsgericht des Kantons Thurgau eine von A._ dagegen eingereichte Beschwerde teilweise gut, indem es die Sache zur Erteilung einer Aufenthaltsbewilligung für die Ehefrau an das Migrationsamt zurückwies. Hinsichtlich des anbegehrten Nachzugs der beiden Kinder wies es die Beschwerde ab. D. Mit Eingabe vom 16. April 2008 erhebt A._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, den verwaltungsgerichtlichen Entscheid insoweit aufzuheben, als damit die Beschwerde betreffend den Familiennachzug der Kinder C._ und D._ abgewiesen wird, und den Kanton Thurgau anzuweisen, den Familiennachzug für die Kinder C._ und D._ zu bewilligen. Das Migrationsamt, das Departement für Justiz und Sicherheit und das Verwaltungsgericht des Kantons Thurgau sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. 