Sachverhalt: A. Gegen X._ ist beim Bezirksgericht Arbon ein Strafverfahren wegen gewerbs- und bandenmässigen Diebstahls, Sachbeschädigung, gewerbsmässigen Betrugs, Hausfriedensbruchs, Unterlassung der Buchführung, Misswirtschaft, ungetreuer Geschäftsbesorgung, Entwendung eines Motorfahrzeugs zum Gebrauch und mehrfachen Fahrens ohne Führerausweis hängig. X._ wurde am 19. Oktober 2006 in den Philippinen, wo seine Ehefrau und die gemeinsame Tochter leben, festgenommen, am 7. November 2006 an die Schweiz ausgeliefert und hier in Untersuchungshaft versetzt. Diese dauerte bis zum 5. Dezember 2007. Vom 5. Dezember 2007 bis zum 28. März 2011 war er im Strafvollzug und verbüsste wegen anderer Delikte eine Freiheitsstrafe. Anschliessend befand er sich wieder in Untersuchungshaft. Mit Abschluss der Strafuntersuchung und Anklageerhebung vor dem Bezirksgericht ordnete das Zwangsmassnahmengericht des Kantons Thurgau am 29. Juni 2011 Sicherheitshaft bis zum 24. September 2011 an. Mit Verfügung vom 29./30. September 2011 verlängerte das Zwangsmassnahmengericht die Sicherheitshaft bis zum 24. März 2012. Eine von X._ dagegen erhobene Beschwerde wies das Obergericht des Kantons Thurgau mit Urteil vom 15. Dezember 2011 ab. Auf eine gegen diesen Entscheid von X._ geführte Beschwerde trat das Bundesgericht mit Urteil 1B_75/2012 vom 15. Februar 2012 nicht ein, weil die Beschwerdefrist nicht eingehalten worden war. Das Bezirksgericht stellte am 7. März 2012 einen Antrag auf Verlängerung der Sicherheitshaft bis zum 24. September 2012. Das Zwangsmassnahmengericht verlängerte die Sicherheitshaft mit Entscheid vom 16. März 2012 bis zum 24. Juni 2012. Die gegen diesen Entscheid von X._ eingereichte Beschwerde wies das Obergericht mit Entscheid vom 3. Mai 2012 ab, soweit es auf die Beschwerde eintrat. B. Gegen diesen Entscheid führt X._ Beschwerde in Strafsachen ans Bundesgericht. Er beantragt im Wesentlichen, die Sicherheitshaft sei aufzuheben. Das Bezirksgericht Arbon beantragt, auf die Beschwerde sei nicht einzutreten, eventualiter sei diese abzuweisen. Das Obergericht beantragt die Beschwerdeabweisung. Am 10. Juli 2012 hat das Departement für Justiz und Sicherheit des Kantons Thurgau, Generalsekretariat, Straf- und Massnahmenvollzug, auf entsprechende Aufforderung hin eine Stellungnahme eingereicht. Die Vernehmlassungen sind dem Beschwerdeführer zugestellt worden. Dieser hält in mehreren Eingaben - die letzte datiert vom 19. Juli 2012 - an seinem Standpunkt fest. 