Sachverhalt: A. X._ lenkte am Morgen des 8. September 2010 um ca. 08.25 Uhr seinen Personenwagen auf der Autobahn A-1H in Richtung Zürich-City. Ihm wird vorgeworfen, nach der Verzweigung Limmattalerkreuz von der rechten auf die mittlere Fahrspur gewechselt und dadurch beinahe eine Kollision mit dem Fahrzeug von Y._ verursacht zu haben. Diese sei auf etwa gleicher Höhe auf dem mittleren Fahrstreifen (erste Überholspur) unterwegs gewesen und habe den Unfall nur durch eine kurze brüske Bremsung verhindern können. B. Das Bezirksgericht Dietikon, Einzelgericht in Strafsachen, sprach X._ mit Urteil vom 28. Juni 2011 vom Vorwurf der groben Verletzung der Verkehrsregeln frei. Eine von der Staatsanwaltschaft Limmattal/Albis dagegen erhobene Berufung hiess das Obergericht des Kantons Zürich mit Entscheid vom 19. Januar 2012 gut. Es sprach X._ der groben Verletzung der Verkehrsregeln schuldig und verurteilte ihn zu einer unbedingten Geldstrafe von 60 Tagessätzen zu Fr. 130.--. Zudem verlängerte es die Probezeit einer bedingt ausgefällten Geldstrafe aus dem Jahre 2010 um ein Jahr. C. X._ führt Beschwerde in Strafsachen. Er beantragt, das Urteil des Obergerichts des Kantons Zürich sei aufzuheben, und er sei von Schuld und Strafe freizusprechen. Eventualiter seien die Strafe zu reduzieren und ihm der bedingte Vollzug zu gewähren. Zudem ersucht er um Gewährung der aufschiebenden Wirkung. 