Sachverhalt: A. Der aus dem Kosovo stammende X._ (geb. 1960) reiste erstmals 1987 in die Schweiz ein, wo er bis 1990 als Saisonnier arbeitete. In der Folge erhielt er eine Aufenthalts- und später die Niederlassungsbewilligung. Am 25. März 2003 stellte X._ erstmals ein Gesuch um Erteilung der Aufenthaltsbewilligung im Rahmen des Familiennachzugs für seine Ehefrau Y._ (geb. 1963) und um Erteilung der Niederlassungsbewilligung für die vier gemeinsamen, im Kosovo geborenen Kinder A._ (geb. 1985), B._ (geb. 1986), C._ (geb. 20. September 1988) und D._ (geb. 6. Oktober 1991). Am 2. Oktober 2003 wies das Ausländeramt des Kantons Schaffhausen das Gesuch ab, im Wesentlichen mit der Begründung, es sei angesichts seines Zeitpunktes rechtsmissbräuchlich. Hiegegen ergriff X._ erfolglos sämtliche kantonalen Rechtsmittel. Er gelangte schliesslich an das Bundesgericht, welches seine Verwaltungsgerichtsbeschwerde guthiess, das kantonal letztinstanzliche Urteil des Obergerichts Schaffhausen aufhob und die Sache "zu neuem Entscheid im Sinne der Erwägungen" an dieses zurückwies (Urteil 2A.31/2005 vom 26. Mai 2005). Das Bundesgericht entschied damals, X._ habe sich nicht in rechtsmissbräuchlicher Weise auf Art. 17 Abs. 2 ANAG berufen, weshalb ihm der Nachzug seiner Ehefrau und seiner vier Kinder nicht aus diesem Grund verwehrt werden dürfe. Es obliege dem Obergericht, näher abzuklären bzw. abklären zu lassen, ob der Familiennachzug allenfalls die Gefahr einer Fürsorgeabhängigkeit für die Beteiligten mit sich bringe und es sich aus diesem Grunde rechtfertigen könnte, von der Erteilung der anbegehrten fremdenpolizeilichen Bewilligungen abzusehen (E. 3.5 des genannten Urteils). Am 11. August 2006 wies das Obergericht des Kantons Schaffhausen die Beschwerde erneut ab. Dieser Entscheid erwuchs unangefochten in Rechtskraft. B. Am 18. September 2006 ersuchte X._ ein zweites Mal um Nachzug seiner Ehefrau Y._ und - noch - seiner Tochter C._ und seines Sohnes D._. Er machte geltend, gemäss Urteil des Bundesgerichts habe er "Anspruch auf den Nachzug seiner Ehefrau sowie all seiner Kinder". Die beiden mittlerweile volljährig gewordenen älteren Kinder wollten ihren Eltern aber nun nicht mehr in die Schweiz nachfolgen, weshalb das Gesuch auf die Ehefrau und die beiden noch minderjährigen Kinder beschränkt werde. Unter Berücksichtigung der in Aussicht stehenden Kinder- und Ausbildungszulagen, welche der Gesuchsteller erhalten werde, stehe fest, dass der Familie keine Fürsorgeabhängigkeit drohe. Mit Verfügung vom 5. April 2007 wies das Ausländeramt des Kantons Schaffhausen auch dieses Gesuch ab. Ein hiegegen beim Regierungsrat des Kantons Schaffhausen erhobener Rekurs blieb erfolglos, und mit Urteil vom 16. Mai 2008 wies das Obergericht des Kantons Schaffhausen eine gegen den regierungsrätlichen Beschluss vom 14. August 2007 gerichtete Beschwerde ebenfalls ab. C. Mit Eingabe vom 19. Juni 2008 führt X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, den Entscheid des Obergerichts des Kantons Schaffhausen vom 16. Mai 2008 aufzuheben und festzustellen, dass der Ehefrau Y._ die Aufenthaltsbewilligung und den Kindern C._ und D._ die Niederlassungsbewilligung im Rahmen des Familiennachzugs zu erteilen sei. Das Ausländeramt des Kantons Schaffhausen hat sich nicht vernehmen lassen. Der Regierungsrat beantragt, die Beschwerde abzuweisen. Das Obergericht schliesst ebenfalls auf Abweisung der Beschwerde. Das Bundesamt für Migration verzichtet darauf, einen Antrag zu stellen. 