Sachverhalt: A. Der 1965 geborene B._ bezog vom 1. Juli 2003 bis 30. Juni 2004 eine ganze Rente der Invalidenversicherung samt Zusatzrente für die Ehefrau und zwei Kinderrenten (Einspracheentscheid vom 15. Juni 2006). Im Dezember 2009 ersuchte er um Neubeurteilung des Invaliditätsgrades. Nach Abklärungen (u.a. Expertise des Instituts X._ vom 27. Januar 2011) verneinte die IV-Stelle des Kantons Zürich mit Verfügung vom 8. September 2011 einen Rentenanspruch. B. Die Beschwerde des B._ wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 11. September 2012 ab. C. B._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid vom 11. September 2012 sei aufzuheben und ihm, allenfalls gestützt auf ein einzuholendes medizinisches Gerichtsgutachten, eine Invalidenrente zuzusprechen. Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Sozialversicherungsgericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 