Sachverhalt: A. Am 13. Mai 2009 erstattete A._ Strafanzeige gegen eine unbekannte Person. Diese habe am 30. April 2009 ca. um 07.20 Uhr auf der Autobahn A3 in Fahrtrichtung Zürich in der Nähe der Ausfahrt Richterswil mit einem anthrazitfarbenen Ford Kuga mit Kennzeichen SZ 1._ ein gefährliches Überholmanöver durchgeführt. Er selber sei zu dieser Zeit mit seinem Fahrzeug sowie zwei Mitfahrerinnen auf dem Überholstreifen gefahren. Der unbekannte Fahrer sei nahe zu ihm aufgeschlossen, habe dann auf die rechte Fahrspur gewechselt, beschleunigt, sei an ihm vorbeigezogen und vor ihm wieder links auf die Überholspur eingeschwenkt, wobei zwischen den beiden Fahrzeugen lediglich ca. ein Meter Abstand bestanden habe. Um eine Kollision zu vermeiden, habe er, A._, stark bremsen und etwas nach links ausweichen müssen. Der fehlbare Lenker sei weiter gefahren und habe die Autobahn bei der Ausfahrt Wädenswil verlassen (vorinstanzliche Akten, act. 2). Als Halter des besagten Fahrzeugs konnte X._ ausfindig gemacht werden. Dieser bestreitet, das Überholmanöver vorgenommen zu haben, räumt indessen ein, zum fraglichen Zeitpunkt auf der genannten Strecke gefahren zu sein (vorinstanzliche Akten, act. 4/1 S. 1 und 4/2 S. 2). B. Das Bezirksgericht Horgen sprach X._ am 15. Dezember 2009 der groben Verletzung von Verkehrsregeln durch brüskes Wechseln des Fahrstreifens mit geringem Abstand schuldig und verurteilte ihn zu einer bedingt vollziehbaren Geldstrafe von 50 Tagessätzen zu Fr. 50.-- sowie zu einer Busse von Fr. 500.--. C. Das Obergericht des Kantons Zürich hiess die Berufung von X._ gut und sprach ihn mit Urteil vom 15. Februar 2011 vom Vorwurf der groben Verletzung von Verkehrsregeln frei. Zudem erkannte es auf eine Entschädigung in der Höhe von Fr. 5'500.--. D. Gegen dieses Urteil erhebt die Oberstaatsanwaltschaft des Kantons Zürich Beschwerde in Strafsachen. Sie beantragt, das Urteil des Obergerichts sei aufzuheben und die Sache zur Neubeurteilung zurückzuweisen. E. Das Obergericht des Kantons Zürich verzichtet auf eine Vernehmlassung. X._ beantragt mit Vernehmlassung vom 5. Juli 2011 die Abweisung der Beschwerde und die Bestätigung des Urteils des Obergerichts. 