Sachverhalt: A. A.a Der 1972 geborene A._ stürzte am 8. Mai 1992 bei der Arbeit vom Dach, wobei er sich u.a. am Rücken verletzte. Die obligatorische Unfallversicherung erbrachte die gesetzlichen Leistungen (Heilbehandlung, Taggeld, Invalidenrente ab 1. November 1993, Integritätsentschädigung). Vom 1. Mai 1993 bis 30. Juni 1995 richtete ihm die IV-Stelle des Kantons Thurgau eine ganze Invalidenrente aus. Nach einer Umschulung in Form eines Arbeitstrainings zu Lasten der Invalidenversicherung arbeitete A._ ab 1. April 1996 im Bereich Elektronikfertigung der Firma V._ AG. Ab 7. April 2003 war er krankheitsbedingt arbeitsunfähig. Auf Ende Dezember 2003 löste die Firma das Arbeitsverhältnis auf. Im Februar 2005 meldete sich A._ erneut bei der Invalidenversicherung an und beantragte eine Rente. Nach Abklärung der gesundheitlichen und erwerblichen Verhältnisse, u.a. Begutachtung durch die Medizinische Abklärungsstelle (MEDAS) sprach ihm die IV-Stelle mit Verfügungen vom 4. April und 6. Juni 2006 eine ganze Invalidenrente samt drei Kinderrenten ab 1. April 2004 zu. Als Ergebnis des im Januar 2007 eingeleiteten Revisionsverfahrens teilte ihm die IV-Stelle am 25. Januar 2008 mit, die Überprüfung des Invaliditätsgrades habe keine Änderung ergeben, weshalb weiterhin Anspruch auf eine ganze Rente bestehe. A.b Im März 2008 beauftragte die IV-Stelle das Epilepsie-Zentrum (EPZ) mit der Erstellung eines neurologisch-psychiatrischen Gutachtens. Weiter liess sie A._ im Ärztlichen Begutachtungsinstitut (ABI) untersuchen und begutachten. Unter Hinweis auf das Abklärungsergebnis teilte die IV-Stelle dem Versicherten mit Vorbescheid vom 12. Oktober 2009 mit, der Gesundheitszustand habe sich verbessert und es bestehe wieder eine Arbeitsfähigkeit (70 %), welche die Erzielung eines rentenausschliessenden Einkommens ermögliche. Es sei daher kein Rentenanspruch mehr gegeben. Mit Verfügung vom 28. Mai 2010 hob sie die ganze Rente revisionsweise auf Ende Juni 2010 auf. B. Die Beschwerde des A._ wies das Verwaltungsgericht des Kantons Thurgau als Versicherungsgericht mit Entscheid vom 15. September 2010 ab. C. A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 15. September 2010 und die Verfügung vom 28. Mai 2010 seien aufzuheben und es sei festzustellen, dass auch ab 1. Juli 2010 Anspruch auf eine ganze Invalidenrente bestehe. Zudem sei die IV-Stelle zur entsprechenden Leistungsausrichtung anzuweisen; eventualiter sei die Sache zur weiteren Abklärung und Neubeurteilung an die Vorinstanz oder die "Erstinstanz" zurückzuweisen. IV-Stelle und kantonales Verwaltungsgericht beantragen die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen hat auf eine Vernehmlassung verzichtet. 