Faits: A. A.a. A._ a travaillé en qualité d'aide-jardinier. Le 21 octobre 1996, il a présenté une demande de prestations de l'assurance-invalidité. Dans un rapport du 20 novembre 1996, le docteur B._ (spécialiste FMH en psychiatrie et psychothérapie) a posé le diagnostic de trouble dépressif récurrent sévère. Dans un rapport du 29 septembre 1997, le docteur C._ (chef de clinique adjoint de l'Hôpital D._) a posé les diagnostics de trouble dépressif récurrent avec symptômes psychotiques ([CIM-10] F33.3) et de personnalité émotionnellement labile, type borderline (F60.31), et fixé à 100 % l'incapacité de travail du patient dès 1996. L'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: OAI VD) a conclu à une invalidité de 100 % depuis le 1er novembre 1997. Suite au départ de l'intéressé pour son pays d'origine, son dossier a été transmis à l'Office de l'assurance-invalidité pour les assurés résidant à l'étranger (ci-après: OAIE), qui, par décision du 16 mai 2001, a alloué à A._ une rente entière d'invalidité à partir du 1er novembre 1997. L'OAIE a procédé dès juillet 2002 à la révision du droit à la rente et informé l'assuré dans une communication du 10 janvier 2003 qu'il continuait d'avoir droit à une rente entière d'invalidité. Derechef, dès août 2007, il a entamé une procédure de révision, sans constater de modification notable du degré d'invalidité (communication du 29 janvier 2008). A.b. Dans le cadre d'une nouvelle procédure de révision initiée dès août 2010, l'OAIE a confié un mandat d'expertise au docteur E._ (spécialiste FMH en psychiatrie et psychothérapie), qui a vu A._ lors d'entretiens ayant eu lieu les 12 et 13 septembre 2011. Dans un rapport du 10 novembre 2011, l'expert a posé le diagnostic ayant une répercussion sur la capacité de travail de trouble panique ([CIM-10] F41.0), présent depuis 1990. Il mentionnait comme diagnostics n'ayant pas de répercussion sur la capacité de travail un trouble de la personnalité (troubles mixtes de la personnalité avec traits narcissiques, histrioniques et dyssociaux, F61.0), certainement présent depuis le début de l'âge adulte, et un syndrome de dépendance aux benzodiazépines (F13.25) qui paraissait pertinent depuis plusieurs années. Il indiquait qu'une activité à plein temps avec un rendement d'au moins 80 % dans toute activité professionnelle correspondant aux compétences de l'assuré paraissait actuellement exigible et pourrait l'avoir été depuis plusieurs années. Dans un avis médical du 26 décembre 2011, la doctoresse F._, médecin de l'OAIE, se fondant sur les constatations du docteur E._ qui n'avait discerné aucun symptôme dépressif et avait indiqué que l'assuré ne prenait aucune médication antidépressive, a répondu par l'affirmative à la question de savoir si l'état de santé de A._ était stabilisé. Elle a fixé à 80 % depuis le 10 novembre 2011 - date du rapport de l'expert - la capacité de travail exigible dans l'activité habituelle et dans une activité adaptée aux limitations fonctionnelles liées à l'instabilité neuro-végétative. L'OAIE, dans un préavis du 10 janvier 2012, a informé l'assuré qu'il présentait une incapacité de travail et de gain de 20 % et ne remplissait plus dès lors les conditions du droit à une rente d'invalidité. A._, par lettre du 9 mars 2012, a fait part à l'OAIE de ses observations. Il a produit copie d'un rapport du docteur G._ (psychiatre et neurologue) du 2 février 2012, de deux rapports du Centre clinique universitaire de H._ - l'un de la Clinique de neurologie et l'autre de la Clinique de psychiatrie relatif à une hospitalisation du 8 février au 9 mars 2012 - et de divers documents émanant du docteur I._ (chirurgien), de l'Unité de chirurgie et de la Policlinique de médecine interne de l'Hôpital régional de J._, ainsi que leur traduction en français. Dans un avis du 23 mars 2012, la doctoresse F._ a considéré que l'ablation de la vésicule biliaire le 19 octobre 2011 et la hernie cicatricielle qui s'était développée ne justifiaient pas une incapacité de travail de longue durée, qu'il en allait de même de l'hypertonie pour laquelle l'assuré ne suivait pas un traitement de manière régulière, et qu'il n'y avait pas d'éléments nouveaux sur le plan psychiatrique permettant de s'écarter des conclusions du docteur E._. Par décision du 19 avril 2012, l'OAIE, tout en s'exprimant sur les observations de A._ dans le sens indiqué ci-dessus par la doctoresse F._, a supprimé son droit à une rente entière d'invalidité avec effet à partir du 1er juin 2012 pour les motifs exposés dans son préavis. B. A._ a formé recours contre cette décision devant le Tribunal administratif fédéral, en concluant, sous suite de frais et de dépens, à son annulation, la juridiction étant invitée à constater que la "suspension" (recte: suppression) du droit à la rente n'était pas justifiée et qu'il continuait d'avoir droit à une rente entière d'invalidité. A titre subsidiaire, il demandait que la cause soit renvoyée à l'OAIE pour instruction complémentaire comportant une expertise médicale et pour nouvelle décision et que son droit à la rente soit maintenu jusqu'au terme de la procédure d'instruction. L'OAIE a conclu au rejet du recours. Dans ses observations, A._ a produit copie d'un rapport du docteur B._ du 19 décembre 2012, de deux rapports du docteur G._ des 28 juin et 12 novembre 2012 et du rapport de la Clinique de psychiatrie du Centre clinique universitaire de H._ et leur traduction en français. L'OAIE s'est référé dans ses déterminations à un avis de la doctoresse F._ du 31 janvier 2013 confirmant ses prises de position antérieures. Les parties ont déposé à nouveau leurs observations. Par arrêt du 4 novembre 2013, le Tribunal administratif fédéral a rejeté le recours. C. A._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et de dépens, à l'annulation de celui-ci et de la décision de l'OAIE du 19 avril 2012, le Tribunal fédéral étant invité à constater qu'il continue à avoir droit à une rente entière d'invalidité sans modification. A titre subsidiaire, il demande que la cause soit renvoyée à l'autorité précédente, encore plus subsidiairement à l'OAIE, pour instruction complémentaire et nouvelle décision au sens des considérants et que son droit à la rente soit maintenu jusqu'au terme de la procédure d'instruction. L'OAIE conclut au rejet du recours. Le Tribunal administratif fédéral renonce à prendre position sur le recours. A._ confirme intégralement ses précédentes écritures. 