Sachverhalt: A. X._ wird qualifizierter Handel mit Kokain vorgeworfen. B. Das Bezirksgericht Zürich sprach ihn am 23. Juni 2009 der mehrfachen Widerhandlung gegen das Betäubungsmittelgesetz (BetmG) im Sinne von Art. 19 Ziff. 1 Abs. 3 bis 6 in Verbindung mit Art. 19 Ziff. 2 lit. a BetmG schuldig und bestrafte ihn mit 5 1⁄2 Jahren Freiheitsstrafe, abzüglich 411 Tage erstandener Haft. Gleichzeitig widerrief es den bedingten Vollzug einer am 29. Juli 2007 vom Tribunal de Police de Genève ausgesprochenen Freiheitsstrafe von 24 Monaten wegen qualifizierter Widerhandlung gegen das BetmG. C. Dagegen erhob X._ eine im Wesentlichen auf das Strafmass und den Vollzug beschränkte Berufung. Das Obergericht des Kantons Zürich stellte mit Urteil vom 26. Februar 2010 die Rechtskraft des bezirksgerichtlichen Schuldspruchs fest. Es setzte die Freiheitsstrafe auf 5 Jahre fest und bestätigte den Widerruf des vom Tribunal de Police de Genève gewährten bedingten Strafvollzugs. D. Die Oberstaatsanwaltschaft des Kantons Zürich erhebt Beschwerde in Strafsachen mit den Anträgen, es sei das Urteil des Obergerichts in Bezug auf die ausgefällte Strafe wegen Verletzung von Bundesrecht aufzuheben und entweder eine höhere Strafe zu verhängen oder die Sache zur Ausfällung einer höheren Strafe an die Vorinstanz zurückzuweisen. E. Das Obergericht des Kantons Zürich verzichtet mit Eingabe vom 16. Juni 2010 auf eine Vernehmlassung. X._ beantragt am 28. Juni 2010, die Beschwerde sei abzuweisen und das obergerichtliche Urteil vom 26. Februar 2010 zu bestätigen. Gleichzeitig ersucht er um unentgeltliche Rechtspflege und Verbeiständung. 