Sachverhalt: A. X._ wird vorgeworfen, im Zeitraum von Anfang Februar 2006 bis 11. August 2006 seine damalige Ehefrau, A._, in der gemeinsamen Wohnung an der B._strasse 32 in D._ mehrfach vergewaltigt und sie am 11. Oktober 2008 in seiner Wohnung an der C._strasse 14 in D._ sexuell genötigt zu haben. B. Das Bezirksgericht Uster sprach X._ am 25. November 2010 der mehrfachen Vergewaltigung, der sexuellen Nötigung sowie der Freiheitsberaubung schuldig. Vom Vorwurf der mehrfachen Drohung und der versuchten Vergewaltigung sprach es ihn frei. Es verurteilte ihn zu einer Freiheitsstrafe von 3 Jahren. Für die Dauer von 18 Monaten schob es den Vollzug der Freiheitsstrafe auf und setzte die Probezeit auf zwei Jahre fest. Im Umfang von 18 Monaten erklärte das Bezirksgericht die Freiheitsstrafe für vollziehbar, unter Anrechnung eines Tages für ausgestandene Untersuchungshaft. Es stellte fest, dass X._ gegenüber der Geschädigten aus den eingeklagten Ereignissen dem Grundsatze nach schadenersatzpflichtig ist. Zur genauen Feststellung des Umfangs der Schadenersatzansprüche verwies es die Geschädigte auf den Weg des Zivilprozesses. Das Bezirksgericht verpflichtete X._, der Geschädigten Fr. 15'000.-- als Genugtuung zu bezahlen, zuzüglich 5% Zins ab 7. November 2008. Im Mehrbetrag wies es das Genugtuungsbegehren ab. X._ erhob Berufung mit dem Antrag, er sei vollumfänglich freizusprechen. Das Obergericht des Kantons Zürich bestätigte am 8. November 2011 die erstinstanzlichen Schuldsprüche wegen mehrfacher Vergewaltigung und sexueller Nötigung. Vom Vorwurf der Freiheitsberaubung sprach es X._ frei. Es verurteilte ihn zu einer Freiheitsstrafe von 3 Jahren. Den zu vollziehenden Teil der Freiheitsstrafe reduzierte es auf 12 Monate, unter Anrechnung eines Tages für ausgestandene Untersuchungshaft. Es bestätigte die erstinstanzlichen Entscheide betreffend Schadenersatz und Genugtuung. C. Mit Beschwerde in Strafsachen beantragt X._, das Urteil des Obergerichts sei aufzuheben. Er sei von den Vorwürfen der mehrfachen Vergewaltigung und der sexuellen Nötigung freizusprechen. Eventualiter seien weitere Beweiserhebungen vorzunehmen. Subeventualiter sei das Verfahren an die Vorinstanz zwecks weiterer Beweiserhebungen zurückzuweisen. Die Zivilforderungen seien auf den Zivilweg zu verweisen, unter Kosten- und Entschädigungsfolgen zulasten des Staates. 