Sachverhalt: A. A.a. A._, geboren 1970, Staatsangehöriger der Türkei, reiste Mitte 2006 illegal in die Schweiz ein und ersuchte erfolglos um Asyl. Am 4. September 2007 heiratete er die 1960 geborene und im Kanton Zürich niedergelassene Brasilianerin B._. In der Folge wurde ihm eine Aufenthaltsbewilligung für den Kanton Zürich erteilt und zunächst einmal verlängert. A.b. Ab Anfang 2009 lebten die Ehegatten getrennt. Die Sicherheitsdirektion des Kantons Zürich verweigerte daher am 8. September 2009 die weitere Verlängerung der Aufenthaltsbewilligung. A._ erhob dagegen Rekurs an den Regierungsrat, worin er geltend machte, er lebe seit März 2009 wieder mit seiner Ehefrau zusammen. Im Rahmen des Rekursverfahrens ersuchte die Staatskanzlei die Sicherheitsdirektion, die ehelichen Verhältnisse mittels polizeilicher Ermittlungen zu überprüfen. Daraufhin hob die Sicherheitsdirektion ihre Verfügung vom 8. September 2009 auf und verlängerte am 28. Oktober 2010 die Aufenthaltsbewilligung zunächst bis 3. September 2011, anschliessend noch einmal bis 3. September 2012. Das Rekursverfahren wurde am 14. Dezember 2010 abgeschrieben. A.c. Am 11./12. Juni 2012 beantragte A._ die Verlängerung seiner Aufenthaltsbewilligung bzw. die Erteilung einer Niederlassungsbewilligung. Das Migrationsamt des Kantons Zürich wies am 8. Juli 2013 das Gesuch ab und setzte A._ eine Frist zum Verlassen der Schweiz. B. Die dagegen erhobenen kantonalen Rechtsmittel blieben erfolglos (Rekursentscheid der Sicherheitsdirektion vom 24. September 2013, Urteil des Verwaltungsgerichts vom 21. Februar 2014). C. A._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, in Aufhebung des angefochtenen Urteils sei ihm die Aufenthaltsbewilligung zu verlängern, eventuell sei die Sache an die Vorinstanz oder an das Migrationsamt zu neuer Entscheidung zurückzuweisen. Das Verwaltungsgericht verzichtet auf Vernehmlassung. Das Migrationsamt des Kantons Zürich reicht keine Stellungnahme ein. Das Bundesamt für Migration beantragt, die Beschwerde sei abzuweisen. 