Sachverhalt: A. Der aus dem Kosovo stammende X._ (geb. 1964) hatte im Jahre 1990 in seiner Heimat die Landsfrau A._ geheiratet und mit ihr die beiden Kinder B._ (geb. 1991) und C._ (geb. 1994) gezeugt. Zwischen 1991 bis 1996 hielt er sich als Saisonnier in der Schweiz auf. Seine Ehe wurde am 25. Februar 1997 geschieden, worauf er ohne gültiges Visum wieder in die Schweiz gelangte und am 11. April 1997 D._ - eine Schweizerin kosovarischer Herkunft - heiratete. In der Folge erhielt er eine Aufenthaltsbewilligung, welche mehrmals verlängert wurde. Nachdem er am 19. Juli 2001 gestützt auf Art. 27 des Bundesgesetzes vom 29. September 1952 über Erwerb und Verlust des Schweizer Bürgerrechts (Bürgerrechtsgesetz, BüG; SR 141.0) erleichtert eingebürgert worden war, reichten die Eheleute im darauffolgenden November ein gemeinsames Scheidungsbegehren ein, worauf die Ehe am 18. April 2002 vom Bezirksgericht Zürich geschieden wurde. Am 27. November 2002 heiratete X._ im Kosovo seine erste Ehefrau A._ wieder und stellte für sie und die beiden gemeinsamen Kinder am 21. Juni 2003 im Kanton Zürich ein Familiennachzugsgesuch. B. Am 17. Januar 2005 erklärte das Bundesamt für Migration die erleichterte Einbürgerung von X._ für nichtig. Das Bundesgericht bestätigte diese Verfügung letztinstanzlich mit Urteil vom 7. Mai 2007 im Verfahren 5A.37/2006. C. Am 4. April 2008 stellte X._ ein Gesuch um Erteilung der Niederlassungs- bzw. Aufenthaltsbewilligung und erneuerte sein Gesuch um Familiennachzug für A._ und die beiden gemeinsamen Kinder. Mit Verfügung vom 26. Januar 2009 wies die Sicherheitsdirektion des Kantons Zürich (Migrationsamt) die Gesuche ab. Es erwog im Wesentlichen, X._ und D._ seien die Ehe nur zum Schein eingegangen. Der gegen diese Verfügung beim Regierungsrat des Kantons Zürich erhobene Rekurs blieb erfolglos, und mit Urteil vom 3. Februar 2010 (versandt am 16. März 2010) wies das Verwaltungsgericht des Kantons Zürich die gegen den regierungsrätlichen Beschluss vom 19. August 2009 erhobene Beschwerde ebenfalls ab. D. Mit Eingabe vom 3. Mai 2010 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit den Anträgen, das letztgenannte Urteil des Verwaltungsgerichts und die ihm zugrunde liegenden Entscheide aufzuheben und ihm - dem Beschwerdeführer - sowohl die Niederlassungsbewilligung zu erteilen als auch den Familiennachzug zu bewilligen; eventuell sei ihm die Aufenthaltsbewilligung zu erteilen, subeventuell die Sache zur Durchführung weiterer "Sachabklärungen" zurückzuweisen. Gleichzeitig wird um unentgeltliche Rechtspflege und Verbeiständung ersucht. Die Sicherheitsdirektion des Kantons Zürich hat sich nicht vernehmen lassen. Das Verwaltungsgericht des Kantons Zürich schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Bundesamt für Migration beantragt, die Beschwerde abzuweisen. E. Mit Verfügung vom 19. Mai 2010 hat der Abteilungspräsident der Beschwerde - antragsgemäss - aufschiebende Wirkung zuerkannt. 