Sachverhalt: A. A.a. Die A._ GmbH (nachfolgend: A._, Beschwerdeführerin) mit Sitz in U._ ist Teil der A._-Unternehmensgruppe, die hauptsächlich Nahrungsmittel, Ausrüstung und Treibstoffe in Krisengebieten an militärische Organisationen liefert. Sie war vormals eine Aktiengesellschaft (A._ AG) und wurde am 29. Juni 2009 in eine Gesellschaft mit beschränkter Haftung umgewandelt. Die B._ AG (nachfolgend: B._, Beschwerdegegnerin) ist im Kanton V._ domiziliert und bezweckt den Handel mit Waren aller Art, insbesondere Import und Export von Gütern, Gütertransport und -umschlag, Transport- und Finanzberatung sowie entsprechende Vertretungen im internationalen Warenhandel. Ende 2006 führten die Parteien Gespräche, wobei es darum ging, ob die B._ für die A._ Flugzeugtreibstoff für die internationalen Friedenstruppen der NATO in Afghanistan liefern könnte. Im April 2007 bestellte die A._ bei der B._ zweimal 150'000 I Flugzeugtreibstoff für das deutsche Kontingent der ISAF (International Security Systems Force) nach Masar-e-Sharif. Die B._ stellte am 11. und 17. April 2007 die entsprechenden pro forma-Rechnungen für je 150'000 I aus, wobei sich bei einem Preis von EUR 0.91 per Liter Rechnungsbeträge von je EUR 136'500.-- ergaben. Die A._ überwies der B._ per Valuta vom 13. und 27. April 2007 die entsprechenden Beträge von je EUR 136'500.--. Im Juni 2007 bestellte die A._ 1'120'000 I Flugzeugtreibstoff. Die B._ stellte am 19. Juni 2007 eine pro forma-Rechnung für 1'000'000 I à EUR 0.85, mithin zu einem Gesamtbetrag von EUR 850'000.--, aus, wobei als Lieferort Herat aufgeführt wurde. Ebenfalls am 19. Juni 2007 stellte die B._ eine pro forma-Rechnung über 120'000 I mit Lieferort Mazar-e-Sharif aus, wobei sich bei einem Preis von EUR 0.91 per Liter ein Gesamtbetrag von EUR 109'200.-- ergab. Die A._ leistete für die bestellten 1'120'000 I Flugzeugtreibstoff am 25. Juni 2007 entsprechend den pro forma-Rechnungen eine Zahlung von EUR 959'200.--. Ende Juni 2007 bestellte die A._ bei der B._ 5'000'000 I Flugzeugtreibstoff für die ISAF in Kandahar. Die B._ stellte am 1. Juli 2007 eine pro forma-Rechnung über 5'000'000 I zu einem Preis von EUR 0.91 per Liter aus, was einen Gesamtbetrag von EUR 4'550'000.-- ergab. In einem Postskriptum hielt die B._ fest, dass diese pro forma-Rechnung ersetzt werde durch eine Schlussrechnung ("Final Invoice"), nachdem die aktuellen Lieferungen erfolgt seien und die exakten Liefermengen feststünden. Ferner wurde festgehalten, dass der genannte pro forma-Preis auf den Platt-Durchschnittspreisen ("Platt Mediterranean USD 610.- per ton") basiere. Am 3. Juli 2007 überwies die A._ der B._ den in der pro forma-Rechnung genannten Betrag von EUR 4'550'000.--. Insgesamt leistete die A._ Vorauszahlungen im Gesamtbetrag von EUR 5'782'200.--. Mit Schreiben vom 1. Dezember 2008 teilte die A._ der B._ mit, dass sie per sofort vom Vertrag zurücktrete. Sie forderte von der B._ Vorauszahlungen im Betrag von EUR 2'010'358.98 zurück. A.b. Bereits am 1. April 2008 hatte die B._ beim Kantonsgericht Glarus Klage gegen die A._ eingereicht, wobei sie insbesondere verlangte, diese sei zu verpflichten, ihr Fr. 2'936'352.85 (entsprechend den Fremdwährungsbeträgen von EUR 1'368'211.95 und USD 584'500.--) nebst Zins sowie Fr. 410.-- für Zahlungsbefehlskosten zu bezahlen. Die A._ bestritt mit Klageantwort vom 28. November 2008 im Hauptstandpunkt ihre Passivlegitimation (sowie den Bestand der Forderung). Für den Fall, dass die Klage geschützt werde, machte sie im entsprechenden Umfang Verrechnung geltend mit ihrer Forderung in der Höhe von EUR 2'010'358.98 aus den Vorauszahlungen für nicht erbrachte Treibstofflieferungen. Das Kantonsgericht Glarus wies die Klage der B._ mit Entscheid vom 23. Juni 2009 ab. Es begründete diesen Entscheid zusammengefasst damit, es bestehe aus den gegenseitigen Ansprüchen ein Saldo in der Höhe von EUR 129'970.05 zugunsten der A._. Gegen diesen Entscheid wurden keine Rechtsmittel erhoben. B. Am 28. Oktober 2009 reichte die A._ ihrerseits als Klägerin beim Handelsgericht des Kantons St. Gallen Klage gegen die B._ ein. Sie beantragte, Letztere sei zu verpflichten, ihr den Betrag von EUR 2'010'359.-- nebst Zins zu 5 % seit dem 3. Juli 2007 zu bezahlen. Zusammengefasst machte sie geltend, dies entspreche dem Betrag, den sie der B._ für das Geschäft vom 1. Juli 2007 überwiesen habe, für den Letztere aber keinen Flugzeugtreibstoff geliefert habe. Die B._ erhob die Einrede der res iudicata und beantragte Nichteintreten, eventualiter Abweisung der Klage. Für den Fall, dass das Handelsgericht auf die Klage eintreten sollte, erhob sie Widerklage mit dem Begehren, die Klägerin habe ihr USD 584'500.-- sowie EUR 1'368'211.95 nebst Zins zu bezahlen. Damit machte sie die Beträge geltend, die sie - umgerechnet in Schweizer Franken (Fr. 2'936'352.85) - bereits vor dem Kantonsgericht Glarus eingeklagt hatte. Mit Entscheid vom 2. März 2011 trat das Handelsgericht auf die Klage ein. Die von der B._ erhobene Einrede der abgeurteilten Sache verwarf es, soweit sie gegen die vorliegende Klage insgesamt erhoben werde. Soweit die geltend gemachte Forderung der A._ den Betrag von EUR 129'970.05 übersteige - so das Handelsgericht weiter - stehe der B._ die Möglichkeit offen, in Bezug auf jede einzelne Position den begründeten Einwand zu erheben, dass diese in dem vom Kantonsgericht Glarus berechneten Saldo erfasst und damit bereits rechtskräftig beurteilt worden sei. In der Replik und Widerklageantwort vom 27. März 2012 reduzierte die A._ ihren eingeklagten Anspruch auf EUR 1'773'330.70 nebst Zins. Am 28. August 2013 fällte das Handelsgericht folgenden Entscheid: "1. Die B._ AG Altstätten wird verpflichtet, der A._ GmbH EUR 129'970.05 nebst Zins zu 5 % seit dem 3. Juli 2007 zu bezahlen. 2. Im Mehrbetrag werden die Klage und die Widerklage abgewiesen, soweit darauf eingetreten werden kann. 3. Die Gerichtskosten von Fr. 120'000.00 bezahlen die Parteien je zur Hälfte. Der Klägerin wird die Entscheidgebühr von Fr. 1'000.00 angerechnet. 4. Die Parteikosten trägt jede Partei selber." Das Handelsgericht prüfte in Bezug auf die einzelnen Positionen von B._ und A._, ob das Kantonsgericht Glarus diese beurteilt und damit in Bezug auf diese bzw. den berechneten Saldo bereits rechtskräftig entschieden habe. Dabei gelangte es (hinsichtlich der Klage) zum Ergebnis, die A._ habe nicht nachgewiesen, dass ihr Ansprüche zustünden, die nicht bereits vom Kantonsgericht Glarus beurteilt worden seien. Demzufolge sprach das Handelsgericht der A._ EUR 129'970.05 nebst Zins zu, entsprechend dem Saldo, der laut der Beurteilung des Kantonsgerichts Glarus zugunsten der A._ besteht. C. Die A._ beantragt dem Bundesgericht mit Beschwerde in Zivilsachen, der Entscheid des Handelsgerichts vom 28. August 2013 sei in Ziffer 2 bezüglich der Klage, sowie in Ziffern 3 und 4 aufzuheben und es sei die Streitsache zur erneuten bzw. ergänzenden Beurteilung an die Vorinstanz zurückzuweisen. Eventualiter sei ihr der Betrag von EUR 1'643'360.65 nebst Zins zu 5 % seit dem 3. Juli 2007 zuzusprechen. Die B._ beantragt, die Beschwerde abzuweisen. Die Vorinstanz verzichtete auf eine Vernehmlassung. 