Sachverhalt: A. A.a Mit Wirkung ab 1. April 1991 setzte die Invalidenversicherungs-Kommission des Kantons Bern den Invaliditätsgrad des 1950 geborenen M._ auf 100 % fest und die Ausgleichskasse des Schweizerischen Baumeisterverbandes richtete eine ganze Invalidenrente nebst Zusatzrente für die Ehefrau und bis 30. Juni 1993 drei, ab 1. Juli 1993 zwei Kinderrenten aus. A.b 1994 leitete die IV-Stelle Bern ein Revisionsverfahren ein. Mit Verfügung vom 16. Oktober 1996 hob sie die Invalidenrente mit Wirkung ab 30. November 1996 auf. Das Verwaltungsgericht des Kantons Bern hiess die dagegen erhobene Beschwerde mit Entscheid vom 9. Januar 1998 in dem Sinne gut, dass es die Verfügung vom 16. Oktober 1996 aufhob und die Sache zu ergänzenden Abklärungen an die Verwaltung zurückwies. Die IV-Stelle holte bei der MEDAS ein polydisziplinäres Gutachten (vom 4. Januar 1999) ein und sprach dem Versicherten ab 1. Dezember 1996 weiterhin eine ganze Invalidenrente nebst Zusatzrente für die Ehefrau und bis 31. Juli 1997 zwei, ab 1. August 1997 eine Kinderrente zu (Verfügung vom 23. Juli 1999). A.c 2004 eröffnete die IV-Stelle Bern ein neues Revisionsverfahren; sie gab beim ärztlichen Begutachtungsinstitut X._ wiederum ein polydisziplinäres Gutachten (vom 2. Mai 2006) in Auftrag. Mit Verfügung vom 16. Juni 2006 und Einspracheentscheid vom 17. Juli 2007 hob sie die Invalidenrente auf Ende Juli 2006 auf. B. Mit Entscheid vom 3. Juni 2008 wies das Verwaltungsgericht des Kantons Bern die dagegen erhobene Beschwerde ab. C. M._ erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, es sei ihm über Ende Juli 2006 hinaus eine ganze Rente auszurichten; eventualiter sei die Sache zum Neuentscheid an die Verwaltung zurückzuweisen. Im Sinne eines zweiten Eventualantrages fordert er die Rückweisung der Sache an die Vorinstanz zur Durchführung einer öffentlichen Instruktionsverhandlung; ferner ersucht er um Gewährung der aufschiebenden Wirkung. Die IV-Stelle beantragt Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf Vernehmlassung. D. Mit Verfügung vom 19. August 2008 hat der Instruktionsrichter des Bundesgerichts das Gesuch um Gewährung der aufschiebenden Wirkung abgewiesen. E. Das Bundesgericht hat am 18. Dezember 2008 eine publikumsöffentliche Beratung durchgeführt. 