Sachverhalt: A. X._ wurde am 30. Juli 2005 verhaftet und mit Urteil des Bezirksgerichts Zürich vom 22. Mai 2006, welches das Obergericht des Kantons Zürich am 22. Januar 2007 bestätigte, wegen Widerhandlungen gegen das Betäubungsmittelgesetz und wegen ausländerrechtlicher Vergehen mit drei Jahren Zuchthaus bestraft. Am 24. Januar 2006 trat er zur Strafverbüssung in die Strafanstalt Pöschwies ein. Er teilte von Anfang an eine Zelle mit A._. Am 21. Oktober 2006 kam es zwischen den Zellengenossen zu einer handgreiflichen Auseinandersetzung. A._ erlitt derart schwere Schädelhirnverletzungen, dass er am 14. November 2006 verstarb. B. Das Geschworenengericht des Kantons Zürich verurteilte X._ am 12. November 2008 wegen eventualvorsätzlicher Tötung zu einer Freiheitsstrafe von 7 Jahren als Zusatzstrafe zum Urteil des Zürcher Obergerichts vom 22. Januar 2007. Es verpflichtete ihn zur Zahlung von Schadenersatz und Genugtuung an die Hinterbliebenen des Opfers und auferlegte ihm die Kosten der Untersuchung und des geschworenengerichtlichen Verfahrens. Eine dagegen erhobene kantonale Nichtigkeitsbeschwerde von X._ wies das Kassationsgericht des Kantons Zürich am 14. September 2011 ab, soweit es darauf eintrat. C. Mit Beschwerde in Strafsachen beantragt X._, es seien die Entscheide des Geschworenengerichts vom 12. November 2008 und des Kassationsgerichts vom 14. September 2011 aufzuheben, er sei wegen fahrlässiger Tötung schuldig zu sprechen und gegebenenfalls für den unrechtmässigen Freiheitsentzug zu entschädigen. X._ ersucht ferner um unentgeltliche Rechtspflege und Verbeiständung. D. Sowohl das Kassationsgericht des Kantons Zürich als auch das Geschworenengericht verzichten mit Eingabe vom 21. Dezember bzw. vom 30. Dezember 2011 auf eine Vernehmlassung zur Rüge der Verletzung des Beschleunigungsgebots. Die Oberstaatsanwaltschaft des Kantons Zürich beantragt am 21. Dezember 2011 die Abweisung der Beschwerde. X._ liess sich nicht mehr vernehmen. 