Sachverhalt: A. Mit Verfügung vom 21. November 2006 wies die IV-Stelle des Kantons Zürich das Gesuch des D._ um Bewilligung eines unentgeltlichen Rechtsbeistandes für das Vorbescheidverfahren ab. B. Die von D._ hiergegen mit dem Antrag auf Aufhebung der angefochtenen Verfügung und Gewährung der unentgeltlichen Verbeiständung für das Vorbescheidverfahren erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich ab und verneinte auch einen Anspruch des Beschwerdeführers auf unentgeltliche Rechtspflege (Prozessführung, Verbeiständung) für das kantonale Verfahren (Entscheid vom 3. Januar 2008). C. D._ lässt hiergegen Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der kantonale Entscheid sei aufzuheben und der unterzeichnende Anwalt sei im Vorbescheid-, im kantonalen und im letztinstanzlichen Verfahren zum unentgeltlichen Rechtsbeistand zu ernennen und es sei die unentgeltliche Prozessführung zu gewähren. Es sei insbesondere festzustellen, dass das Begehren um unentgeltlichen Rechtsbeistand im Vorbescheid- und im kantonalen Verfahren nicht rechtsmissbräuchlich ist. Mit Verfügung vom 29. Mai 2008 hat das Bundesgericht das Gesuch um unentgeltliche Rechtspflege (Prozessführung, Verbeiständung) für das letztinstanzliche Verfahren abgewiesen. Der mit separater Verfügung ergangenen Aufforderung, bis 20. Juni 2008 einen Kostenvorschuss von Fr. 500.- zu leisten, ist D._ fristgerecht nachgekommen. 