Sachverhalt: A. A.a Das Appellationsgericht des Kantons Basel-Stadt sprach X._ am 20. Januar 2011 zweitinstanzlich des Mordes, des mehrfachen versuchten Mordes, der einfachen Körperverletzung mit einem gefährlichen Gegenstand, der mehrfachen Tätlichkeiten, der mehrfachen Drohung, der mehrfachen versuchten Nötigung, der Gewalt und Drohung gegen Behörden und Beamte, des mehrfachen Ungehorsams gegen eine amtliche Verfügung sowie der Widerhandlung gegen das Waffengesetz schuldig und verurteilte ihn zu einer Freiheitsstrafe von 13 Jahren und einer Busse von Fr. 1'500.--. Es verpflichtete ihn, in solidarischer Haftung mit A._ bzw. B._, an diverse Personen Genugtuungs- sowie Schadenersatzzahlungen zu leisten und erklärte ihn für weitere Schadensposten dem Grundsatz nach ersatzpflichtig. A.b Dem Urteil liegt unter anderem folgender Sachverhalt zugrunde: A._ schoss am 26. Oktober 2005 viermal gezielt auf Körper- und Kopfhöhe gegen die vor der "C._Bar" in Basel stehende Menschengruppe rund um die Angehörigen der Familie D._, wobei er sich bei der Schussabgabe gehend auf diese zubewegte. Einen fünften Schuss gab er aus kurzer Distanz (wenigen Metern) auf den bereits angeschossenen und am Boden liegenden D.A._ ab. Der zeitlich letzte Schuss war für diesen tödlich. Während des ganzen Vorfalls wurde er von X._ begleitet, der mit einer Stahlrute herumhantierte und die Funktion eines "Bodyguards" ausübte. Die vor der "C._Bar" stehenden Personen griffen A._ und X._ weder an noch provozierten sie diese tätlich, und es stand auch kein Angriff bevor. A._ handelte aus Rache an D.B._. Er wollte sich Vergeltung verschaffen für Ereignisse am Morgen, die er ungerechtfertigterweise als Demütigung empfand, da er diese selber initiiert hatte. Der Konflikt war auf eine Frauengeschichte B._s zurückzuführen, die A._ nicht direkt betraf. X._ ging vor der Schiesserei zusammen mit A._ vor der "C._Bar" auf und ab, wobei er die Stahlrute provozierend ein- und auszog. An der Strassenecke E._ zeigte A._ F._ und G._ die von ihm mitgeführte Pistole. Das Vermittlungsangebot von H._ schlug er aus. X._ wusste spätestens als A._ F._ und G._ die Pistole zeigte, dass dieser bewaffnet war. Als H._ mit A._ reden wollte, intervenierte er und spornte A._ zur Tat an. Er stand diesem auch während der Schiesserei ständig in unmittelbarer Nähe (auf dem Fuss bzw. im Abstand von nur "einem halben Menschen") schützend zur Seite. Nach dem letzten tödlichen Schuss auf D.A._ ging er zu diesem hin und schwang die Stahlrute weiter, schlug ihn aber nicht. X._ war gewillt, die Konfrontation mit Waffen auszutragen. Er beteiligte sich an der Vergeltungsaktion von A._ und drängte auf deren Ausführung. A._ wäre nach den Erfahrungen vom Vormittag ohne dessen Mitwirkung gegen die zahlenmässig überlegene Personengruppe nicht so vorgegangen, wie er dies tat. B. X._ führt Beschwerde in Strafsachen mit den Anträgen, ihn vom Vorwurf des Mordes und des mehrfachen versuchten Mordes (ev. der Gehilfenschaft zum Mord und der Gehilfenschaft zum mehrfachen versuchten Mord) freizusprechen und ihn für die übrigen Straftaten zu einer Freiheitsstrafe von 12 Monaten zu verurteilen, bedingt vollziehbar bei einer Probezeit von zwei Jahren. Zudem seien die ihm gegenüber geltend gemachten Zivilforderungen bezüglich des Vorfalls vom 26. Oktober 2005 abzuweisen. Im Übrigen sei das Urteil vom 20. Januar 2011 hinsichtlich der Zivilforderungen zu bestätigen. Eventualiter sei dieses aufzuheben und die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen. Er ersucht um unentgeltliche Rechtspflege und Verbeiständung. 