Sachverhalt: A. Der 1969 geborene H._ meldete sich am 27. Oktober 2005, Eingang am 1. November 2005, bei der Invalidenversicherung für eine Umschulung an. Nach verschiedenen Sachverhaltsabklärungen und Durchführung des Vorbescheidsverfahrens eröffnete ihm die IV-Stelle Bern mit Verfügung vom 25. September 2007, es bestehe kein Anspruch auf eine Invalidenrente. Gemäss dem polydisziplinären medizinischen Gutachten des Instituts X._, vom 25. Juni 2007 bestehe für leidensadaptierte Tätigkeiten seit Oktober 2004 eine Arbeitsfähigkeit von 80 %; der darauf gestützte Einkommensvergleich ergebe einen nicht rentenbegründenden Invaliditätsgrad von 35 %. B. H._ erhob beim Verwaltungsgericht Bern Beschwerde. Er beantragte, die Verfügung vom 25. September 2007 sei aufzuheben. Es sei eine ganze Invalidenrente ab 1. Oktober 2005 zuzusprechen; eventuell sei die IV-Stelle zu verpflichten, berufliche/medizinische Massnahmen zu gewähren. H._ kündigte dabei an, einen Bericht der Psychiatrie Y._ nachzureichen. Nachdem die IV-Stelle ihre Vernehmlassung auf Abweisung der Beschwerde eingereicht hatte, setzte das Verwaltungsgericht H._ eine Frist, um den in Aussicht gestellten Bericht der Psychiatrie Y._ aufzulegen. Fristgerecht reichte H._ den Psychiatrie Y._-Bericht vom 28. November 2007 ein. Das Verwaltungsgericht gab der IV-Stelle Gelegenheit, sich dazu zu äussern. Davon machte die Verwaltung mit Stellungnahme vom 4. Februar 2008 Gebrauch, wobei sie sich auf eine beigelegte Ärztliche Beurteilung des Regionalen Ärztlichen Dienstes (RAD) vom 23. Januar 2008 stützte. Am 17. April 2008 fällte das Verwaltungsgericht folgenden Entscheid: "1. Die Stellungnahme der Beschwerdegegnerin vom 4. Februar 2008 samt RAD-Bericht wird dem Beschwerdeführer zur Kenntnisnahme zugestellt. 2. Die Beschwerde wird abgewiesen." Das Gericht auferlegte dem Beschwerdeführer sodann die Gerichtskosten von Fr. 700.-; eine Parteientschädigung sprach es nicht zu. C. H._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, es sei der kantonale Entscheid aufzuheben und den vorinstanzlich im Hauptpunkt und eventualiter gestellten Leistungsbegehren zu entsprechen; eventuell sei die Sache in Aufhebung des kantonalen Entscheides zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die IV-Stelle beantragt die Abweisung der Beschwerde, ohne sich weiter zu äussern. Das Bundesamt für Sozialversicherungen (BSV) schliesst in seiner Vernehmlassung ebenfalls, die Beschwerde sei abzuweisen. 