Sachverhalt: A. X._ ist Staatsangehöriger der Republik Bangladesch. Er wurde 1978 geboren und gelangte im Oktober 1999 in die Schweiz, wo er ein Asylgesuch stellte. Im Oktober 2002 heiratete er eine um 17 Jahre ältere Schweizerbürgerin. In der Folge erteilte ihm der Kanton Bern die Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau, worauf X._ im November 2002 den Rückzug des Asylgesuchs erklärte. Die Ehefrau verschied im Mai 2004, weswegen die Ausländerbehörde des Kantons Bern seine Aufenthaltsbewilligung nicht mehr verlängerte und die Wegweisung anordnete. Während der laufenden Ausreisefrist verheiratete X._ sich im März 2005 erneut mit einer Schweizerbürgerin. Sie ist um 27 Jahre älter als er und steht unter Beistandschaft. B. Zwei Wochen nach dem Eheschluss, Ende März 2005, äusserte die Ausländerbehörde der Stadt Bern den Verdacht, es liege eine Scheinehe vor. Hierauf meldete X._ sich im Mai 2005 in Zürich an, wo seine Ehefrau Wohnsitz hat, blieb aber - mit dem Einverständnis der Ausländerbehörde der Stadt Bern - weiterhin als Hilfskoch in Bern tätig. Im August 2005 stellte er in Zürich das Gesuch um Erteilung einer Aufenthaltsbewilligung. Nach Ermittlungen der Polizei, wiederum wegen des Verdachts auf Vorliegen einer Scheinehe, erhielt X._ im Dezember 2005 vom Kanton Zürich die Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau. Im Eheschutzverfahren vor dem Bezirksgericht Zürich, 5. Abteilung, verpflichtete X._ sich im Juni 2007 zur Bezahlung eines monatlichen Betrages von Fr. 800.-- an seine Ehefrau. Die Gattin übernahm gemäss dieser Vereinbarung die Kosten des ehelichen Haushaltes in Zürich, der Gatte jene seines Aufenthalts in Bern (Mietzins und Nebenkosten). C. Aufgrund des Gesuchs um erleichterte Einbürgerung, das X._ im Juli 2009 gestellt hatte, kam es gegen Ende 2009 zu weiteren Abklärungen durch die Polizei. Dabei wurde die Ausländerbehörde auf die Unterhaltsvereinbarung aus dem Jahr 2007 aufmerksam, die ihr zuvor unbekannt gewesen war. Aufgrund der polizeilichen Erhebungen wies das Migrationsamt des Kantons Zürich am 26. April 2010 das Gesuch X._s vom 26. Februar 2010 um Verlängerung seiner Aufenthaltsbewilligung ab und setzte ihm Frist zum Verlassen der Schweiz bis zum 30. Juni 2010. Das Migrationsamt begründete dies mit dem Vorliegen einer Scheinehe. Der Regierungsrat des Kantons Zürich bestätigte den vorinstanzlichen Entscheid mit Urteil vom 13. April 2011. Dagegen gelangte X._ an das Verwaltungsgericht des Kantons Zürich. Dieses wies die Beschwerde vom 3. Juni 2011 mit Urteil vom 16. November 2011 ab. D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten, eventuell subsidiärer Verfassungsbeschwerde, vom 30. Dezember 2011 beantragt X._ (hienach: der Beschwerdeführer) vor Bundesgericht die Aufhebung des angefochtenen Entscheids und die Verlängerung seiner Aufenthaltsbewilligung, eventualiter die Aufhebung des angefochtenen Entscheids unter Rückweisung der Sache zur Neubeurteilung an die Vorinstanz, subeventuell die Aufhebung des angefochtenen Entscheids und die Rückweisung der Sache zur Prüfung der Zumutbarkeit des Wegweisungsvollzuges an die Vorinstanz. Die Staatskanzlei des Kanton Zürich und das Bundesamt für Migration beantragen die Abweisung der Beschwerde, während das Verwaltungsgericht des Kantons Zürich, 2. Abteilung, den Antrag stellt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Der Beschwerdeführer verzichtet auf eine Replik. Mit Verfügung des Präsidenten der II. öffentlich-rechtlichen Abteilung vom 5. Januar 2012 wurde der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt. 