Sachverhalt: A. A.a T._, geboren 1951, meldete sich am 18. Februar 2003 zum Bezug von Leistungen der Invalidenversicherung an. Die IV-Stelle des Kantons Zürich erhob Informationen zur gesundheitlichen, erwerblichen und persönlichen Situation des Versicherten und holte beim Begutachtungsinstitut X._ ein Gutachten (vom 20. November 2003) ein. Die Experten konnten in somatischer Hinsicht geringfügige orthopädische Befunde erheben, welche die ganztägige Leistungsfähigkeit in körperlich leichten und mittelschweren Tätigkeiten nicht limitierten. Aus psychiatrischer Sicht stellten sie eine diskret ausgeprägte Dysthymie fest, die die Arbeitsfähigkeit in einer den körperlichen Beschwerden angepassten Tätigkeit nicht einschränkte. Gestützt auf die genannten Abklärungen verneinte die IV-Stelle den Anspruch auf berufliche Massnahmen (Verfügung vom 9. Januar 2004) und aufgrund eines Invaliditätsgrades von 10 % die Ausrichtung einer Invalidenrente (Verfügung vom 5. Februar 2004). A.b Am 27. Juni 2005 meldete sich T._ unter Hinweis auf einen am 16. Mai 2005 erlittenen Herzinfarkt erneut zum Leistungsbezug (Rente) an. Die IV-Stelle holte medizinische Berichte ein und wies das Begehren mit Verfügung vom 9. Dezember 2005 ab, weil die einjährige Wartezeit noch nicht abgelaufen sei. A.c Mit hausärztlichem Schreiben vom 8. Mai 2006 liess T._ die IV-Stelle wiederum um Prüfung des Rentenanspruches ersuchen. Die Verwaltung holte unter anderem Berichte der behandelnden Ärzte Dres. med. V._, Psychiatrie und Psychotherapie FMH, vom 20. Mai 2006 und T._, Innere Medizin FMH, vom 22. Mai 2006 ein. Letzterer attestierte eine seit einem Myokardinfarkt am 16. Mai 2005 andauernde 100-prozentige Arbeitsunfähigkeit sowie einen Diabetes mellitus Typ II, zusätzlich diagnostiziert seit Januar 2006. Der Psychiater bescheinigte dem Versicherten eine seit mindestens 2004 irreparabel gegen 0 % eingeschränkte Arbeitsfähigkeit. Mit Vorbescheid vom 10. November 2006 teilte die IV-Stelle T._ mit, sie gedenke das Leistungsbegehren abzuweisen, da kein anspruchsbegründender Invaliditätsgrad ausgewiesen sei. Auf Antrag im Einwand des Versicherten hin veranlasste sie ein psychiatrisches Gutachten, welches Dr. med. B._, FMH Psychiatrie und Psychotherapie, am 23. April 2007 erstattete. Es attestierte T._ eine spätestens seit dem Herzinfarkt am 16. Mai 2005 bestehende chronische und unbehandelbare vollständige Arbeits- und Erwerbsunfähigkeit. Aufgrund der erneuten Beurteilung der medizinischen Akten durch den Regionalen Ärztlichen Dienst (RAD; med. pract. U._) vom 2. Mai 2007, der das Gutachten des Dr. med. B._ als nur teilweise plausibel und nachvollziehbar bezeichnete und eine vollständige Arbeitsunfähigkeit verneinte, lehnte die IV-Stelle das Leistungsbegehren mit Verfügung vom 8. Mai 2007 ab. B. Das Sozialversicherungsgericht des Kantons Zürich wies die dagegen erhobene Beschwerde mit Entscheid vom 2. Dezember 2008 ab. C. T._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt Zusprechung einer ganzen Invalidenrente; eventualiter sei die Sache zu ergänzenden Ermittlungen an die Verwaltung zurückzuweisen. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Vorinstanz und Bundesamt für Sozialversicherungen verzichten auf Vernehmlassung. 