Faits: A. A.a M._, né en 1973, a été suivi par l'hôpital X._ dès le début de sa scolarité. Dans un rapport du 13 octobre 1987, le docteur L._, médecin à l'hôpital X._, avait constaté chez lui des troubles et avait diagnostiqué des difficultés d'intégration avec réaction d'isolement, de la passivité et une discordance des comportements sociaux. Sur le plan des apprentissages scolaires, le docteur L._ avait fait état d'une grande discontinuité des investissements cognitifs, une lenteur de fonctionnement proche de l'inhibition et un manque d'autonomie constituant des entraves à la progression scolaire malgré un bon potentiel intellectuel. Sur le plan psychique, ce médecin avait constaté une anxiété de fond qui s'extériorisait par des périodes d'excitation psychique, d'instabilité psychomotrice et des passages à l'acte. Compte tenu de ces constatations et évaluations, le docteur L._ avait estimé qu'aucun traitement médical n'était nécessaire mais qu'une formation scolaire spécialisée était indispensable. Celle-ci a été dispensée à M._ par l'école A._ (décision de la Commission AI du canton de Genève du 27 novembre 1987) et a été prolongée jusqu'au 30 juin 1993. Au cours de cette période de formation, l'hôpital X._ a établi un rapport du 23 avril 1991, faisant état d'une amélioration sur le plan scolaire et jugeant M._ plus mûr et capable de s'assumer malgré de gros problèmes personnels qu'il apprend à gérer seul. A la fin de la formation scolaire spécialisée, l'Office cantonal AI de Genève (ci-après: OCAI) a constaté, dans un rapport du 21 juillet 1993, que l'assuré n'était pas motivé, qu'il refusait de se mobiliser et qu'en raison de ses amitiés dans le milieu des toxicomanes et de son comportement, il ne pouvait plus être aidé. A la demande de l'OCAI, le docteur K._, qui n'avait jamais soigné M._ auparavant, a établi un rapport du 8 avril 1997 sur la base du dossier établi au nom de celui-ci par le Département de psychiatrie de l'hôpital Y._. Il ressortait de ce rapport que M._ a débuté la consommation occasionnelle d'alcool, d'héroïne en fumée, de cocaïne et de LSD à 14 ans et qu'à 18 ans il était dépendant à l'héroïne. Après quatre tentatives infructueuses de sevrage, il était parti en Afrique où il semblait encore résider au moment de l'établissement du rapport. Par décision du 24 août 1998, l'OCAI a mis M._ au bénéfice d'une rente entière d'invalidité dès le 1er juillet 1993. A.b Le 17 juin 2004, l'OCAI a initié une révision du droit à la rente. Dans le cadre de cette procédure, des renseignements médicaux ont été demandés au docteur D._, qui a posé le diagnostic de toxicomanie à l'héroïne dès l'âge de 18 ans. Ce médecin a joint à son rapport un avis établi en 2001 duquel il ressort que M._ ne suivait aucun traitement et qu'il ne souffrait d'aucun antécédent psychiatrique ni d'aucune autre pathologie. Une expertise psychiatrique a été confiée au docteur J._, de l'hôpital Y._. Dans un rapport du 26 septembre 2005, ce praticien a posé le diagnostic de troubles mentaux et du comportement liés à l'utilisation d'opiacés, syndrome de dépendance, utilisation continue (F 11.25), de troubles mentaux et du comportement liés à l'utilisation de cocaïne, syndrome de dépendance actuellement abstinent (F 14.20), de troubles mentaux et du comportement liés à l'utilisation de dérivés du cannabis, syndrome de dépendance, utilisation continue (F 12.24), d'anxiété généralisée et de dysthymie à début précoce. Pour l'expert, les limites de M._ sont essentiellement psychiques et sociales. Elles tiennent à la dépendance aux toxiques surtout à la consommation d'héroïne, associée aux troubles de l'humeur et aux difficultés à gérer le stress. Ces limites auraient une répercussion majeure si l'assuré devait travailler du fait des ruptures de continuité que cela entraînerait et elles le rendraient inapte à maintenir un horaire régulier et par conséquent un engagement professionnel continu et durable. L'expert a estimé qu'à l'avenir si M._ était d'accord d'adhérer à des soins spécialisés dans la dépendance aux drogues et à un suivi psychologique de façon à présenter une abstinence durable avec amélioration de l'état psychique, une insertion professionnelle semblerait possible. Appelées à se prononcer, les doctoresses U._ et L._ de l'hôpital X._ ont admis que M._ souffrait d'une toxicomanie primaire non invalidante (avis médical du 16 janvier 2005 [recte: 2006]). Pour l'hôpital X._, la consommation de drogues avait empêché l'assuré de suivre une formation et d'avoir une activité professionnelle. En outre, la situation décrite par l'expert ne permettait pas de retenir l'existence d'une anxiété généralisée car les critères de la CIM-10 n'étaient pas réalisés. Enfin, les médecins du X._ ont constaté que la dysthymie était la conséquence de la toxicomanie et non sa cause. Le 19 mai 2006, l'OCAI a reconsidéré sa décision d'octroi d'une rente entière au motif que M._ souffrait d'une toxicomanie primaire, qui ne résultait pas d'une atteinte à la santé ayant valeur de maladie invalidante et qui n'avait entraîné aucune atteinte à la santé physique ou mentale ayant une influence sur la capacité de gain. Dans la mesure où la décision d'octroi de la rente avait retenu que la toxicomanie était invalidante, elle était manifestement erronée. Il a donc supprimé le droit à une rente dès le 1er jour du 2ème mois suivant la notification de la décision. L'opposition de M._ a été rejetée par décision du 13 novembre 2006. B. M._ a formé recours contre cette décision devant le Tribunal cantonal des assurances sociales de la République et canton de Genève, en concluant, sous suite de frais et dépens, à l'annulation de celle-ci. Sur requête de la juridiction cantonale, le docteur J._, dans un questionnaire du 24 janvier 2007, a complété son expertise du 26 septembre 2005. Il a répondu par l'affirmative à la question de savoir si la dépendance aux diverses substances qu'il avait diagnostiquée résultait elle-même d'une atteinte à la santé physique ou mentale de l'assuré ayant valeur de maladie. Il indiquait qu'il s'agissait d'une dysthymie à début précoce (inclure personnalité dépressive). Par jugement du 12 mars 2007, le Tribunal cantonal des assurances sociales, admettant le recours, a annulé la décision sur opposition du 13 novembre 2006. C. L'Office de l'assurance-invalidité du canton de Genève interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation, la décision sur opposition du 13 novembre 2006 étant confirmée. M._ conclut, sous suite de frais et dépens, au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer. 