Sachverhalt: A. Die Bank Y._ / Ukraine (Klägerin), eröffnete am 4. Oktober 2000 auf Anfrage ihrer Kundin A._ SA ein unwiderrufliches Akkreditiv zugunsten der B._ Ltd. / Irland als Begünstigte für eine Öl- bzw. Benzin-Lieferung. Der Akkreditivbetrag belief sich auf USD 3'235'000.- +/-10 %. Die Bank X._, Zürich (Beklagte), wurde von der Klägerin als Korrespondenzbank beauftragt, das Akkreditiv der Begünstigten B._ Ltd. zu bestätigen sowie den Akkreditivbetrag bei Übereinstimmung der von der Begünstigten vorgewiesenen Dokumente mit den Akkreditivbedingungen auszuzahlen. Die Beklagte nahm den Auftrag an und bestätigte das Akkreditiv gegenüber der Begünstigten. A.a Mit Swift-Mitteilung vom 25. Oktober 2000 liess die Beklagte der Klägerin Dokumente zukommen und bat die Klägerin, bei der Käuferin als Akkreditivstellerin abzuklären, ob diese genehmigt werden könnten, da sie von den geforderten Akkreditivdokumenten abwichen. Die Klägerin antwortete darauf, dass sie die Akkreditivstellerin so schnell wie möglich kontaktieren werde. A.b Am 8. November 2000 gab die Beklagte der Klägerin bekannt, dass ihre Swift-Mitteilung vom 25. Oktober 2000 als gegenstandslos betrachtet werden könne, da nun die Dokumente in Übereinstimmung mit den Akkreditivbedingungen eingetroffen seien und der Betrag von USD 3'267'603.29 ausbezahlt worden sei. Gleichzeitig machte die Beklagte USD 8'366.71 für ihre eigenen Dienstleistungen geltend. Insgesamt belastete sie dem Konto der Klägerin den Betrag von USD 3'275'970.--. A.c Die Klägerin beanstandete mit Swift vom 17. November 2000 mehrere Unvereinbarkeiten der von der Begünstigten vorgelegten Papiere mit den vereinbarten Akkreditivbedingungen. Sie forderte die Berichtigung des Saldos ihres Kontos bei der Beklagten mit der Begründung, diese habe die Summe des Akkreditivs in Höhe von USD 3'275'970.-- zu Unrecht belastet. Die Klägerin vertrat die Ansicht, die Beklagte habe Art. 13 lit. b der Einheitlichen Richtlinien für Dokumentenakkreditive (ERA) missachtet, wonach die Klägerin als das Akkreditiv eröffnende Bank die ihr von der Beklagten als bestätigender Zweitbank zugestellten Dokumente in angemessener Zeit prüfen und zurückweisen könne. A.d Die Beklagte war nicht bereit, die Kontobelastung rückgängig zu machen. Sie vertrat die Auffassung, die vorgelegten Dokumente stimmten mit den Akkreditivbedingungen überein und die Belastung des Kontos der Klägerin mit dem Akkreditivbetrag zuzüglich Kosten sei gerechtfertigt. Die Abweichungen in den vorgelegten Dokumenten gegenüber den Akkreditivbedingungen hielt sie für geringfügig, weshalb die Bezahlung der Akkreditivsumme an die Begünstigte zu Recht erfolgt sei. B. Mit Urteil vom 21. März 2005 hiess das Handelsgericht des Kantons Zürich die Klage vom 10. April 2002 gut und verpflichtete die Beklagte, den Betrag von USD 3'275'970.- zuzüglich 8 % Zins seit dem 8. November 2000 dem Konto der Klägerin, Nr. _, gutzuschreiben. Das Gericht hielt zunächst fest, dass die Parteien die Einheitlichen Richtlinien und Gebräuche für Dokumentenakkreditive gemäss Revision 1993, ICC-Publikation Nr. 500 Paris (ERA 500), im Eröffnungsauftrag zum Vertragsinhalt erklärt hatten. Da eine Rechtswahl nicht erfolgt war, ist nach der Erwägung des Handelsgerichts gemäss Art. 117 IPRG schweizerisches Recht anwendbar und finden daher ergänzend die Normen über die Anweisung (Art. 466 ff. OR) Anwendung. Danach gelten die Grundsätze der Dokumentenstrenge und der Abstraktheit und kann die Beklagte keinen Auslagenersatz verlangen, wenn sie formell nicht korrekte Dokumente honoriert hat, was das Handelsgericht vorliegend für das Erfordernis "Gum Existent" im Qualitätszertifikat - wofür tatsächlich "Existent Gum washed" erwähnt war - sowie für das Erfordernis "signed and stamped" bejahte, das beim "Sealing Report" nicht erfüllt war. Da die Abweichungen nicht geringfügig waren, hätte die Beklagte nach den Erwägungen des Handelsgerichts die Dokumente zurückweisen oder der Klägerin und der Akkreditivstellerin zur Genehmigung vorlegen müssen. Das Handelsgericht verneinte sodann den von der Beklagten behaupteten Verstoss gegen Treu und Glauben. Es folgte insbesondere der Ansicht der Beklagten nicht, dass aufgrund der Inempfangnahme der Ware ein rechtsmissbräuchliches Verhalten vorliege. Das Gericht sprach schliesslich den eingeklagten Verzugszins von 8 % mit der Begründung zu, die Forderung laute auf USD und der Zins sei unbestritten. C. Mit Berufung vom 27. April 2005 beantragt die Beklagte, das Urteil des Handelsgerichts des Kantons Zürich vom 21. März 2005 sei aufzuheben und die Klage sei vollumfänglich abzuweisen, eventualiter sei die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen. D. Die Klägerin beantragt in der Antwort, die Berufung sei abzuweisen und das angefochtene Urteil in sämtlichen Punkten zu bestätigen. E. Das Kassationsgericht wies die Nichtigkeitsbeschwerde der Beklagten gegen das Urteil des Handelsgerichts vom 21. März 2005 am 7. April 2006 ab, soweit darauf eingetreten werden konnte. 