Sachverhalt: A. Der 1973 geborene A._ bezog für die wirtschaftlichen Folgen eines am 1. Januar 1995 erlittenen Verkehrsunfalls, bei dem er sich verschiedene Frakturen und andere Verletzungen zugezogen hatte, gemäss Verfügung der IV-Stelle des Kantons Zürich vom 19. August 1998 ab 1. Januar 1996 bei einem Invaliditätsgrad von 80 % eine ganze Rente der Invalidenversicherung. Im Rahmen einer im Mai 1999 von Amtes wegen eingeleiteten Rentenrevision zog die IV-Stelle Arztberichte bei und veranlasste eine polydisziplinäre Begutachtung in der Medizinischen Abklärungsstelle (MEDAS); Expertise vom 16. August 2001), worauf sie die ganze Invalidenrente ab 1. Mai 2003 aufgrund eines Invaliditätsgrades von 48 % auf eine Viertelsrente herabsetzte (Verfügung vom 25. März 2003). Auf Einsprache hin hob die IV-Stelle die Viertelsrente mit Entscheid vom 26. April 2004 rückwirkend auf den 1. Mai 2003 auf. Mit Urteil vom 6. April 2006 (I 858/05) bestätigte das Eidgenössische Versicherungsgericht letztinstanzlich die Rentenaufhebung. Bereits mit Schreiben vom 5. Dezember 2005 war A._ wiederum an die IV-Stelle gelangt und hatte für den Fall, dass seine zu jenem Zeitpunkt noch beim Eidgenössischen Versicherungsgericht hängige Verwaltungsgerichtsbeschwerde abgewiesen werde, unter Beilage eines Berichts der Psychiaterin Frau Dr. med. R._, erneut um Zusprechung einer Invalidenrente ersucht. Die IV-Stelle holte weiter Berichte der Frau Dr. med. R._ sowie des Dr. med. M._ vom 9. August 2006 ein. Ferner zog sie den Bericht des Kreisarztes der Schweizerischen Unfalllversicherungsanstalt (SUVA), Dr. med. O._, vom 26. Januar 2006 bei. Mangels relevanter Verschlechterung des Gesundheitszustandes seit Aufhebung der Invalidenrente lehnte sie das Leistungsgesuch nach durchgeführtem Vorbescheidvefahren am 2. April 2007 verfügungsweise ab. B. Die von A._ hiegegen eingereichte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 17. September 2008 ab. C. A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des vorinstanzlichen Entscheides sei ihm eine ganze Invalidenrente zuzusprechen; eventuell sei die Sache zu weiteren medizischen Abklärungen und neuer Verfügung an die IV-Stelle zurückzuweisen. Die IV-Stelle und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. 