Faits: A. S._, né en 1966, a travaillé comme agent spécialisé auprès de X._ de 1988 à 1999. Il a ensuite perçu des indemnités de l'assurance-chômage et a bénéficié d'une formation d'aide-comptable. Le 23 décembre 2002, il a déposé une demande de prestations de l'assurance-invalidité en alléguant souffrir d'une hernie discale et de « désordre moral ». Dans un rapport du 10 janvier 2003, le docteur C._, spécialiste en médecine interne et maladies rhumatismales, a constaté des problèmes d'ordre dépressif ainsi que des blocages lombaires épisodiques. En 2003, l'assuré a retiré sa demande de prestations au motif qu'il avait retrouvé sa pleine capacité professionnelle. Le 28 novembre 2005, S._ a adressé une nouvelle demande à l'Office cantonal de l'assurance-invalidité de Genève (ci-après l'OCAI) tendant à l'octroi d'une rente d'invalidité en raison d'un syndrome du défilé thoracique droit et gauche, d'une hernie discale ainsi que d'un état dépressif. Dans un rapport du 29 décembre 2005, le docteur M._, du centre Y._, a confirmé l'existence de ces pathologies et constaté une épicondylite au coude gauche. Il a considéré que ces atteintes n'entrainaient pas de diminution de la capacité de travail dans une activité sédentaire. Le docteur C._ (rapport du 9 janvier 2006) ainsi que le docteur B._, médecin au centre Z._(rapport du 28 décembre 2006) ont pour l'essentiel émis les mêmes constatations. Sur la base de ces documents médicaux, l'OCAI a communiqué un projet de refus de rente le 3 janvier 2007. Le 23 janvier 2007, le docteur N._, psychiatre traitant de l'assuré, a adressé à l'OCAI un rapport médical selon lequel les affections physiques et psychiques dont souffrait son patient rendaient toute stabilisation très difficile et contrecarraient tout projet de réinsertion professionnelle. Il a attesté une incapacité totale de travail dès le mois de septembre 2005 en raison d'une péjoration de l'état de santé. Invité par l'OCAI à se déterminer, le docteur B._ a maintenu sa position. Par décision du 15 mars 2007, l'OCAI a refusé toute prestation à S._. Ce dernier a interjeté un recours contre cette décision, que le Tribunal des assurances sociales du canton de Genève a admis partiellement par jugement du 29 août 2007 en renvoyant la cause à l'OCAI pour instruction complémentaire et nouvelle décision. A la suite de ce renvoi, l'OCAI a désigné comme experts les docteurs O._, rhumatologue, et R._, psychiatre, tous deux médecins au centre J._. Dans leur expertise du 11 mars 2008, ces derniers ont notamment diagnostiqué des migraines, des lombosciatalgies sur hernie discale, des cervicalgies, ainsi qu'une structure de personnalité de type état-limite; ces atteintes à la santé n'entraînaient toutefois pas d'incapacité de travail dans une activité légère en position assise. Sur la base de ce rapport du centre J._, l'OCAI a maintenu le refus de prester par décision du 18 août 2008. B. S._ a formé un recours contre cette décision, que le Tribunal cantonal a rejeté par jugement du 27 janvier 2009. C. L'assuré interjette un recours en matière de droit public en concluant à l'annulation du jugement du Tribunal cantonal et à l'octroi d'une rente entière d'invalidité dès le 28 novembre 2005. A l'appui de ce recours, il a notamment produit un nouveau certificat médical établi le 12 février 2009 par le docteur N._. Il a par ailleurs demandé l'octroi de l'assistance judiciaire pour l'instance fédérale. Le Tribunal fédéral a rejeté cette requête par ordonnance du 23 mars 2009. 