Sachverhalt: A. J._ meldete sich im Dezember 2003 unter Hinweis auf ein psychisches Leiden bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärungen sprach ihm die IV-Stelle Bern mit Verfügung vom 14. Februar 2005 eine ganze Invalidenrente ab 1. Januar 2004 zu. Im Januar 2007 ersuchte J._ um Hilflosenentschädigung. Die IV-Stelle klärte die Verhältnisse vor Ort ab und liess den Versicherten im Zentrum X._ psychiatrisch begutachten. Am 1. März 2010 äusserte ein anonymer Telefonanrufer die Vermutung, J._ könnte einer erwerblichen Tätigkeit nachgehen. Dieser wurde in der Folge im Zeitraum vom 29. Juni bis 8. September 2010 an insgesamt vierzehn Tagen überwacht. Am 8. Juni 2011 wurde J._ von Dr. med. F._, Facharzt für Psychiatrie und Psychotherapie FMH, vom regionalen ärztlichen Dienst (RAD) untersucht. Nachdem die IV-Stelle im Juli 2011 die Rentenzahlungen sistiert hatte, hob sie nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 12. Dezember 2011 die ganze Rente rückwirkend zum 1. Juni 2010 auf. B. Die Beschwerde des J._ wies das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, mit Entscheid vom 3. Mai 2012 ab. C. J._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 3. Mai 2012 sei aufzuheben und ihm rückwirkend seit 1. Juni 2010 eine ganze Invalidenrente auszurichten; eventualiter sei die Sache an die Vorinstanz zurückzuweisen, damit sie ein Gerichtsgutachten einhole und gestützt darauf über den Leistungsanspruch neu entscheide, unter Gewährung der unentgeltlichen Rechtspflege. Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Verwaltungsgericht verzichtet auf eine Stellungnahme. Das Bundesamt für Sozialversicherungen hat sich nicht vernehmen lassen. In einer weiteren Eingabe hat sich J._ zu den Ausführungen der IV-Stelle in ihrer Vernehmlassung geäussert. 