Sachverhalt: A. A.a Die Y._ AG (Beklagte, Beschwerdegegnerin) war zunächst Lizenznehmerin von A._ (Beklagter 1 im kantonalen Verfahren), der das CH-Patent Nr. 111._ hielt. Sie ist Inhaberin dieses Patents, das ihr während des kantonalen Verfahrens übertragen worden ist. Das Patent betrifft eine induktive Heizvorrichtung in einem Kochgerät. A.b Die X._ GesmbH (Klägerin und Beschwerdeführerin) mit Sitz in Österreich befasst sich mit dem Vertrieb von Induktions-Kochherden. Sie gelangte mit Eingabe vom 8. März 2005 an das Handelsgericht des Kantons St. Gallen mit dem Rechtsbegehren, es sei gegenüber den Beklagten festzustellen, dass das schweizerische Patent Nr. 111._ nichtig sei. A.c Im Laufe des Verfahrens vor dem Handelsgericht schränkte der Beklagte 1, damals Patentinhaber, in einem Eventualbegehren die Patentansprüche ein. Die Klägerin beantragte darauf in ihrer nachträglichen Eingabe vom 30. Januar 2006, die Nichtigkeit des Patents sei auch hinsichtlich der je acht neuen Patentansprüche gemäss den beiden neuen Eventualbegehren der Duplik festzustellen. A.d Mit Entscheid vom 21. April 2008 wies das Handelsgericht die Klage auf Nichtigkeit des schweizerischen Patents 111._ in der Fassung gemäss Eventualantrag ab. Da die Beklagten die Nichtigkeit in der Fassung gemäss ursprünglicher Patentschrift anerkannten, schrieb das Handelsgericht die Klage in diesem Punkt als erledigt ab. Die Klage gegen die Beschwerdegegnerin, die damals Lizenznehmerin war, wies das Gericht wegen fehlender Passivlegitimation ab. A.e Mit Urteil vom 18. November 2008 hob das Kassationsgericht des Kantons St. Gallen den Entscheid des Handelsgerichts auf und wies die Sache zur neuen Beurteilung an das Handelsgericht zurück mit der Vorgabe, dass die nachträgliche Eingabe der Klägerin vom 6. Juli 2007 zuzulassen sei. Das Kassationsgericht hielt die Rüge der Verletzung von Art. 164 ZPO SG für begründet und nahm an, dass der Prozess in Kenntnis der US-Patentschrift 222._ einen anderen Verlauf genommen hätte. Das Handelsgericht nahm danach den Prozess wieder auf. B. Mit Entscheid vom 10. Mai 2011 schrieb das Handelsgericht des Kantons St. Gallen die Klage mit Bezug auf die Frage der Rechtsbeständigkeit von CH 111._ in der Fassung gemäss Patentschrift zufolge Anerkennung der Nichtigkeit als erledigt ab (Dispositiv-Ziffer 1), wies die Klage gegen den Beklagten 1 ab (Dispositiv-Ziffer 2) und wies die Klage mit dem sinngemässen Antrag, es sei festzustellen, dass CH 111._ auch in den eingeschränkten Fassungen nichtig sei, ebenfalls ab (Dispositiv-Ziffer 3). Der Gegenstand des Anspruchs 1 des Eventualantrags der Beklagten stelle eine patentfähige Erfindung dar, dessen Wortlaut in Dispositiv-Ziffer 3 wie folgt wiedergegeben wird: "1. Kochgerät mit einer induktiven Heizvorrichtung (2), welche sich unter einer viereckigen Kochplatte (1) befindet, dadurch gekennzeichnet, dass die Heizvorrichtung (2) zumindest zwei Heizelemente (6 bis 9) aufweist, dass diese Heizelemente derart ausgeführt und angeordnet sind, dass auch der zwischen diesen benachbarten Heizelementen (6, 7) befindliche Bereich der Kochplatte (1) für Kochzwecke verwendbar ist, dass eine Abschirmvorrichtung (3) sich zwischen der Kochplatte und der Heizvorrichtung (2) befindet, dass diese Abschirmvorrichtung (3) einen geerdeten Leiter (32) aufweist, welcher in bzw. auf einer Trägerplatte (31) derart verlegt ist, dass möglichst die ganze Fläche der Trägerplatte (31) durch den Leiter bedeckt ist und dass dieser Leiter keine geschlossene Schleife bildet. 2. Kochgerät nach Anspruch 1, dadurch gekennzeichnet, dass das Heizelement (6 bis 9) einen Flächeninduktor (10) mit im wesentlichen spiralförmigen Windungen umfasst, dass die jeweilige Windung (13 bis 19) eines solchen Induktors (10) praktisch geradlinig verlaufende und hintereinander geschaltete Abschnitte (21 bis 24) aufweist und dass der jeweilige geradlinig verlaufende Windungsabschnitt parallel zu einer der Seiten (101 bzw. 102) der Kochplatte (1) verläuft. 3. Kochgerät nach Anspruch 2, dadurch gekennzeichnet, dass die geradlinig verlaufenden Abschnitte (21 bzw. 24) der aussen liegenden Windungen (19) der benachbarten Heizelemente parallel zueinander verlaufen und dass der Abstand A2 zwischen den äusseren geradlinig verlaufenden Abschnitten (21 bzw. 24) der benachbarten Wicklungen (6 bzw. 7 bzw. 8 bzw. 9) zweimal so gross ist wie der Abstand zwischen den benachbarten Windungen (z.B. 18 und 19) eines der Heizelemente. 4. Kochgerät nach Anspruch 3, dadurch gekennzeichnet, dass die Induktoren (10) der Heizelemente (6 bis 9) in Serie geschaltet und an eine Stromquelle (60) angeschlossen sind und dass der Wicklungssinn der Induktoren (10) derart ist, dass der Strom in den geradlinigen und parallel zueinander verlaufenden Abschnitten (21 bzw. 24) der äusseren Windungen (19) der benachbarten Heizelemente (6 bis 9) in gleicher Richtung fliesst. 5. Kochgerät nach Anspruch 4, dadurch gekennzeichnet, dass ein erster Anschlussleiter (11) an die aussen am Rande liegende Windung (19) des Induktors (10) eines ersten Heizelementes (6) angeschlossen ist, dass ein zweiter Anschlussleiter (12) an die mittig liegende Windung (13) des Induktors (10) eines zweiten Heizelementes (7) angeschlossen ist, dass der spiralförmige Induktor (10) des ersten Heizelementes (6) sich im Gegenuhrzeigersinn und der Induktor (10) des zweiten Heizelementes (7) sich im Uhrzeigersinn öffnet. 6. Kochgerät nach Anspruch 5, welches zwei Heizelemente (6, 7) aufweist, dadurch gekennzeichnet, dass die mittige Windung (13) des ersten Heizelementes (6) mit Hilfe eines ersten Verbindungsleiters (20) mit der äusseren Windung (19) des zweiten Heizelementes (9) verbunden ist. 7. Kochgerät nach Anspruch 5, welches vier in einem Viereck angeordnete Heizelemente (6 bis 9) aufweist, dadurch gekennzeichnet, dass die mittige Induktorwindung (13) des ersten Heizelementes (6) mit Hilfe eines ersten Verbindungsleiters (20) mit der äusseren Induktorwindung (19) des vierten Heizelementes (9) verbunden ist, dass die mittige Windung (13) dieses vierten Heizelementes (9) mit Hilfe eines weiteren Verbindungsleiters (20) an die äussere Induktorwindung (19) des dritten Heizelementes (8) verbunden ist, dass die mittige Induktorwindung (13) dieses dritten Heizelementes (8) mit Hilfe eines noch weiteren Verbindungsleiters (20) an die äussere Windung (19) des zweiten Heizelementes (7) angeschlossen ist, dass die Spirale des Induktors (10) des dritten Heizelementes (8) sich im Gegenuhrzeigersinn öffnet und dass der Induktor (10) des vierten Heizelementes (9) sich im Uhrzeigersinn öffnet. 8. Kochgerät nach Anspruch 1, dadurch gekennzeichnet, dass eine Stromquelle (60) vorgesehen ist, an welche die Heizvorrichtung (2) angeschlossen ist, dass diese Stromquelle (60) einen Generator (61) von Stromimpulsen aufweist, welcher über Leiter (62, 63) an die Heizvorrichtung (2) angeschlossen ist, dass dieser Generator (61) derart ist, dass sich sowohl die erzeugte Frequenz als auch die Leistung der Impulse steuern lässt, dass einem der Zuführleiter (63) ein Stromwandler (64) zugeordnet ist, welcher an erste Eingänge einer Phasenmessvorrichtung (65) angeschlossen ist, dass ein weiterer Eingang dieser Phasenmessvorrichtung (65) über eine Leitung (67) an den Stromgenerator (61) direkt angeschlossen ist, dass ein Einstellelement (66) zur Steuerung der Arbeitsweise der Phasenmessvorrichtung (65) an diese angeschlossen ist, dass der Ausgang der Phasenvorrichtung (65) über Leitungen (68, 69) an eine Ansteuerungsvorrichtung (70) für den Generator (61) angeschlossen ist, dass diese Vorrichtung (70) über weitere Leiter (71, 72) mit dem Generator (61) verbunden ist, dass eine weitere Leitung (73) vom Generator (61) zur Ansteuerungsvorrichtung (70) zurückführt, dass die Ansteuerungsvorrichtung (70) an die Phasenmessvorrichtung (65) über eine weitere Leitung (74) zurückgekoppelt ist und dass zur Einstellung der gewünschten Leistung die Ansteuerungsvorrichtung (70) mit einem zweiten Einstellelement (75) versehen ist. 9. Kochgerät nach Anspruch 1, dadurch gekennzeichnet, dass der Leiter (32) auf der Trägerplatte (31) mäanderförmig verlegt ist." Das Handelsgericht, das bereits im ersten Verfahren ein Gutachten eingeholt hatte, beauftragte den Experten B._ mit Schreiben vom 27. August 2009, die von ihm erstattete Expertise unter Berücksichtigung der US-Patentschrift 222._ zu ergänzen. Der Experte hatte zuvor auf Anfrage erklärt, dass die Beklagte Auftraggeberin der Aktiengesellschaft sei, für welche er arbeitet, dass jedoch der Auftrag von einer Kollegin bearbeitet werde. Die Parteien erklärten darauf, dass sie gegen die Ernennung des Experten keine Einwände hätten. Der Experte gelangte zum Schluss, dass das Patent der Beklagten in der eingeschränkten Fassung auch unter Berücksichtigung der US-Patentschrift 222._ gültig sei. Das Handelsgericht folgte dieser Auffassung. C. Mit Beschwerde in Zivilsachen beantragt die Klägerin, das Urteil des Handelsgerichts des Kantons St. Gallen vom 10. Mai 2011 sei bezüglich der Dispositiv-Ziffer 3 sowie der Kosten aufzuheben (Ziffer 1), die Klage sei vollständig gutzuheissen, und es sei gegenüber der Beklagten und Beschwerdegegnerin die Nichtigkeit des schweizerischen Patents 111._ festzustellen (Ziffer 2), eventuell sei die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen und diese anzuweisen, ein Obergutachten über die Frage des Naheliegens der beanspruchten Erfindung einzuholen, und zwar ausgehend von der Europäischen Patentanmeldung 333._ (D2) als nächstliegendem Stand der Technik (Ziffer 2.1). Die Klägerin rügt, die Vorinstanz habe Art. 1 Abs. 2 PatG verletzt, indem sie mit dem Gutachter als nächstliegenden Stand der Technik die US-Patentschrift 222._ statt wie im ursprünglichen Gutachten die EP Patentanmeldung 333._ als Ausgangspunkt gewählt habe, indem sie eine blosse Aggregation von technischen Merkmalen als nicht naheliegend qualifiziert, und indem sie allgemeines Fachwissen der hypothetischen Fachperson unberücksichtigt gelassen habe. Zudem rügt sie eine offensichtlich unrichtige Feststellung des Sachverhalts. D. Die Beschwerdegegnerin schliesst in ihrer Antwort auf Abweisung der Beschwerde, soweit darauf einzutreten sei. E. In Replik und Duplik halten die Parteien an ihren Standpunkten fest. 