Sachverhalt: A. A.a Der tunesische Staatsangehörige X._, geb. 1973, reiste im Februar 2002 in die Schweiz ein, um hier die 1949 geborene Schweizerin Y._ zu heiraten, wofür er eine Aufenthaltsbewilligung erhielt. Nach der gerichtlichen Trennung der Ehe am 23. Januar 2004 wurde ein Gesuch um Verlängerung der Bewilligung von den zuständigen Behörden des Kantons Zürich im Jahre 2005 wegen rechtsmissbräuchlichen Berufens auf eine nur noch formell bestehende Ehe abgewiesen, was das Bundesgericht letztinstanzlich bestätigte (Urteil 2A.24/2007 vom 6. Februar 2007). A.b Am 9. Mai 2007 stellte X._ einen Asylantrag, den er im Wesentlichen damit begründete, er sei vom islamischen zum christlichen Glauben konvertiert, weshalb ihm in seinem Heimatland der Tod drohe. Mit Verfügung vom 10. Juli 2007 sprach ihm das Bundesamt für Migration die Flüchtlingseigenschaft jedoch ab. X._ führte dagegen zunächst Beschwerde. A.c Am 26. Februar 2008 wurde die Ehe geschieden. Am 21. April 2008 heiratete X._ die 1959 geborene Schweizerin Z._, woraufhin er seine Beschwerde gegen den abschlägigen Asylentscheid zurückzog und erneut eine Aufenthaltsbewilligung zwecks Zusammenlebens mit der Ehefrau erhielt. Vom Dezember 2008 bis Ende April 2009 und später vom November 2009 an lebten die Eheleute getrennt. Mit Entscheid vom 28. Januar 2010 verweigerte das Migrationsamt des Kantons Thurgau die Verlängerung der Aufenthaltsbewilligung und ordnete die Wegweisung an. B. Am 3. Juni 2010 wies das Departement für Justiz und Sicherheit des Kantons Thurgau einen dagegen erhobenen Rekurs ab. Mit Urteil vom 26. Januar 2011 wies auch das Verwaltungsgericht des Kantons Thurgau eine bei ihm eingereichte Beschwerde ab. Zur Begründung führte es im Wesentlichen aus, X._ habe keinen Anspruch mehr auf Verlängerung der Aufenthaltsbewilligung aufgrund der Ehe mit einer Schweizerin, weil diese faktisch getrennt sei. Ein ausnahmsweiser Anspruch im Sinne des so genannten nachehelichen Härtefalles scheitere am Fehlen wichtiger persönlicher Gründe, die einen weiteren Aufenthalt in der Schweiz erforderlich machen würden. Insbesondere könne sich X._ insoweit nicht auf seine Konversion zum Christentum berufen, da dies einzig im rechtskräftig abgeschlossenen Asylverfahren zu prüfen gewesen wäre. Im Übrigen liesse sich eine entsprechende Verfolgung in Tunesien mit höchster Wahrscheinlichkeit ausschliessen. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 14. März 2011 stellt X._ die folgenden Anträge: "1. Es sei der Entscheid des Verwaltungsgerichtes des Kantons Thurgau vom 26. Januar 2011 ... aufzuheben. 2. Es sei das Migrationsamt des Kantons Thurgau anzuweisen, die Aufenthaltsbewilligung des Beschwerdeführers zu verlängern. 3. Es sei das Migrationsamt des Kantons Thurgau anzuweisen, den Beschwerdeführer nicht wegzuweisen. 4. Es sei das Migrationsamt des Kantons Thurgau anzuweisen, beim Bundesamt für Migration keinen Antrag auf Anordnung eines Einreiseverbots zu stellen. 5. ..." In prozessualer Hinsicht wird überdies um Erteilung der unentgeltlichen Rechtspflege und Verbeiständung ersucht. Zur Begründung wird im Wesentlichen geltend gemacht, als Konvertit sei X._ in Tunesien erheblich gefährdet und zwar auch noch nach den dortigen politischen Veränderungen, was die kantonalen Instanzen ungenügend abgeklärt und berücksichtigt hätten. D. Das Migrationsamt, das Departement für Justiz und Sicherheit sowie das Verwaltungsgericht des Kantons Thurgau und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. 