Sachverhalt: A. X._ wurde am 12. Mai 2005 festgenommen und befindet sich seither in Haft, seit dem 29. Februar 2008 im vorzeitigen Strafvollzug. Gemäss Anklageschrift der Staatsanwaltschaft II des Kantons Zürich vom 31. August 2006 werden ihm Betäubungsmitteldelikte und Vergehen gegen das Waffengesetz vorgeworfen. B. Mit Urteil und Beschluss des Bezirksgerichts Zürich vom 14. März 2007 wurde X._ der mehrfachen Widerhandlung gegen das Betäubungsmittelgesetz im Sinne von Art. 19 Ziff. 1 Abs. 3, 4 und 5 in Verbindung mit Art. 19 Ziff. 2 BetmG sowie der Widerhandlung gegen das Waffengesetz im Sinne von Art. 33 Abs. 1 lit. a in Verbindung mit Art. 4 Abs. 1 lit. a WG und Art. 7 Abs. 1 WG sowie der Widerhandlung gegen die Waffenverordnung im Sinne von Art. 9 Abs. 1 WV schuldig gesprochen. Das Bezirksgericht verurteilte ihn zu einer Freiheitsstrafe von acht Jahren, widerrief den bedingten Strafvollzug einer Vorstrafe und erklärte diese für vollziehbar. C. X._ legte mit Eingabe vom 16. März 2007 Berufung beim Obergericht des Kantons Zürich ein. Im Anschluss an die Berufungsverhandlung vom 24. September 2007 setzte die erkennende Kammer den Entscheid zwecks Ergänzung der Untersuchung durch die Anklagebehörde aus. Namentlich sollte die Auskunftsperson A._, die anlässlich der Konfrontation vom 12. Dezember 2005 die Aussagen zur angeblichen Verwicklung des Angeklagten in den Drogenhandel verweigert hatte, erneut (diesmal als Zeuge) befragt bzw. mit dem Angeklagten konfrontiert werden. Mit Eingaben vom 26./ 27. November 2007 teilte die Staatsanwaltschaft II des Kantons Zürich nach entsprechenden Abklärungen mit, dass eine Zeugeneinvernahme A._s zufolge Landesabwesenheit in absehbarer Zeit nicht stattfinden könne, weshalb das Urteil aufgrund der im Recht liegenden Akten zu fällen sei, was das Obergericht denn auch tat. Mit Urteil vom 29. Januar 2008 stellte es die Rechtskraft des erstinstanzlichen Urteils hinsichtlich des Schuldspruchs wegen Widerhandlung gegen das Waffengesetz fest. Es sprach X._ gemäss den Anklageziffern I.1, I.2, I.3 (bezüglich einer Menge von 396.9 Gramm Heroin) und I.4 schuldig der mehrfachen Widerhandlung gegen das Betäubungsmittelgesetz im Sinne von Art. 19 Ziff. 1 Abs. 3, 4 und 5 in Verbindung mit Ziff. 2 lit. a und b BetmG. Hingegen sprach es ihn vom Vorwurf des Verstosses gegen das Betäubungsmittelgesetz gemäss Anklageziffer I.3 (bezüglich der 396.9 Gramm übersteigenden Menge Heroin) frei. Es bestrafte X._ mit 7 Jahren, 11 Monaten und 9 Tagen Freiheitsstrafe, unter Anrechnung von 993 Tagen Untersuchungs- und Sicherheitshaft, widerrief den bedingten Vollzug der Vorstrafe und erklärte diese für vollziehbar. D. Mit Beschwerde in Strafsachen beantragt X._ die Aufhebung des angefochtenen Urteils und die Rückweisung der Sache an die Vorinstanz zur neuen Beurteilung. Gleichzeitig ersucht er um Entlassung aus dem vorzeitigen Strafvollzug sowie um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung. E. Das Obergericht hat mit Eingabe vom 8. September 2008 auf eine Stellungnahme zur Beschwerde verzichtet. Die Oberstaatsanwaltschaft des Kantons Zürich ersucht in ihrer Vernehmlassung vom 23. September 2008 um Bestätigung des obergerichtlichen Urteils. 