Sachverhalt: A. A.a X._, geboren 24. Februar 1960, Bürger von Südafrika, reiste am 11. Februar 2007 offiziell (faktisch aber bereits früher) in die Schweiz ein, wo er am 19. April 2007 die im Kanton Zürich niedergelassene kenianische Staatsangehörige A._, geboren 1975, heiratete. In der Folge erhielt er eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau, die ihrerseits eine Tochter aus erster Ehe hat (B._, geboren 1999, schweizerisches Bürgerrecht). Am 25. Mai 2007 kam der gemeinsame Sohn C._ zur Welt, der in die Niederlassungsbewilligung seiner Mutter einbezogen wurde. A.b Mit rechtskräftigem Urteil des Bezirksgerichts Zürich vom 18. September 2007 wurde X._ zu einer Freiheitsstrafe von 21 Monaten und einer Busse von Fr. 300.-- verurteilt wegen des Verbrechens im Sinne von Art. 19 Ziff. 1 Abs. 4 und 5 BetmG in Verbindung mit Art. 19 Ziff. 2 lit. a BetmG (schwerer Fall des Betäubungsmittelhandels) sowie wegen mehrfacher Übertretung des Betäubungsmittelgesetzes im Sinne von Art. 19a Ziff. 1 BetmG (Betäubungsmittelkonsum). B. Am 30. April 2008 wies das Migrationsamt des Kantons Zürich eine Verlängerung der Aufenthaltsbewilligung mit Hinweis auf das ergangene Strafurteil ab. Ein Rekurs an den Regierungsrat sowie in der Folge eine Beschwerde an das Verwaltungsgericht blieben erfolglos. C. X._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit dem Antrag, es sei ihm der weitere Aufenthalt in der Schweiz zu bewilligen; eventuell sei die Sache zur weiteren Sachverhaltsabklärung zurückzuweisen. D. Das Verwaltungsgericht und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. E. Mit Verfügung des Präsidenten der II. öffentlich-rechtlichen Abteilung des Bundesgerichts vom 7. Januar 2011 wurde der Beschwerde die aufschiebende Wirkung zuerkannt. 