Faits: A. C._ a travaillé en dernier lieu comme jardinier et chauffeur auprès de particuliers dans le canton de Genève, jusqu'en 1998. Invoquant souffrir de douleurs lombaires et cervicales, de thromboses dans les deux jambes et d'une fibromyalgie, il a présenté une demande de prestations de l'assurance-invalidité le 22 septembre 1999. Entre autres mesures d'instruction, l'Office de l'assurance-invalidité du canton de Genève (ci-après: l'office AI) a chargé le Centre d'observation médical de l'assurance-invalidité (COMAI) d'une expertise rhumatologique et psychiatrique, qui a été rendue le 8 octobre 2002 par les docteurs P._ et S._. Ceux-ci ont conclu que la capacité de travail de l'assuré dans toute activité était limitée à 30 %, essentiellement en raison d'un syndrome somatoforme douloureux persistant et d'un état dépressif et anxieux. L'office AI a ensuite confié une expertise au docteur E._, psychiatre et psychothérapeute. Diagnostiquant un état dépressif majeur chronique de gravité légère et un trouble hystérique polysymptomatique à minima (trouble somatoforme indifférencié) chez une personnalité immature à fonctionnement passif-dépendant, le médecin a retenu que la capacité de travail résiduelle de l'intéressé était de 50 % dans toute activité professionnelle adaptée à ses compétences, sa motivation et ses éventuelles limitations somatiques, depuis la fin de l'année 2002 (rapport du 27 août 2004). Fort de ces conclusions, l'office AI a rendu une décision le 23 novembre 2004 - qu'il a confirmée sur opposition de l'assuré le 26 mars 2007 -, par laquelle il a mis C._ au bénéfice d'une rente entière d'invalidité du 1er septembre 1999 au 31 décembre 2002, puis d'une demi-rente à partir du 1er janvier 2003. B. L'assuré a déféré la décision sur opposition du 26 mars 2007 au Tribunal cantonal des assurances sociales de la République et canton de Genève. Après avoir entendu les docteurs T._ et K._, médecins traitants, de même que les docteurs P._ et E._, le Tribunal a admis le recours et reconnu le droit de l'intéressé à une rente entière dès le 1er janvier 2003 (jugement du 21 janvier 2010). C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant à la confirmation de sa décision sur opposition du 26 mars 2007. C._ conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales en préavise l'admission. 