Faits: A. A._, né en 1958, a été engagé dès le 1er septembre 1989 en qualité de machiniste par l'Entreprise X._, à M._. A ce titre, il a été affilié à partir de ce moment-là auprès de "l'Institution de prévoyance en faveur du personnel de l'entreprise X._". Depuis le 17 novembre 2000, il a été à l'arrêt de travail pour des raisons de santé, ce qui a donné lieu à l'annonce d'un cas d'incapacité de gain à Y._ SA, laquelle s'occupe de la gestion administrative de l'institution de prévoyance. Les rapports de travail avec l'employeur ont pris fin le 31 août 2001. Dans un préavis du 13 février 2007, l'Office cantonal de l'assurance-invalidité du Valais (ci-après : l'office AI), se fondant - à la suite d'un arrêt de renvoi du Tribunal fédéral des assurances du 16 mars 2006 (I 494/04) - sur une expertise de la Clinique Z._ du 13 novembre 2006, a admis que A._ présentait une incapacité de travail de 100 % dans toute activité depuis le 15 avril 2002, date de son hospitalisation à V._, et qu'il avait droit à une rente entière d'invalidité dès le 1er avril 2003. Par décisions des 11 juillet et 19 septembre 2007, il lui a alloué une rente entière d'invalidité à partir du 1er avril 2003. A la suite du préavis de rente de l'office AI du 13 février 2007, A._ a invité Y._ SA à faire le nécessaire afin qu'il puisse bénéficier d'une rente LPP de l'institution de prévoyance. Par lettre du 31 août 2007, Y._ SA a nié que l'Institution de prévoyance en faveur du personnel de l'entreprise X._ soit tenue à prestations attendu que A._ ne lui était plus affilié lors de la survenance de l'incapacité de travail de 100 % le 15 avril 2002. Par lettre du 23 novembre 2007, celui-ci a maintenu sa demande de rente LPP, étant donné l'étroite relation de connexité matérielle et temporelle entre l'incapacité de travail qui avait été la sienne depuis le 17 novembre 2000 et son invalidité. Sa requête a été transmise par Y._ SA à la Compagnie d'assurances W._, qui l'a rejetée par lettre du 24 juin 2008 au motif que A._ n'avait présenté jusqu'au 15 avril 2002 aucune atteinte à la santé susceptible de diminuer sa capacité de travail et de gain comme machiniste ou dans n'importe quelle autre activité lucrative. Le 11 juillet 2008, A._ a ouvert action contre l'« Institution de prévoyance X._ à M._, par la Compagnie d'Assurances W._ » devant la Cour des assurances sociales du Tribunal cantonal valaisan, en demandant que « l'Institution de prévoyance X._ » soit tenue de lui verser une rente LPP d'invalidité, avec intérêts moratoires. La Compagnie d'Assurances W._, ayant informé l'autorité de jugement qu'elle ne représentait pas l'Institution de prévoyance en faveur du personnel de l'entreprise X._, la procédure a été continuée contre celle-ci dont la capacité pour défendre a été admise. Par jugement du 25 septembre 2009, la Cour des assurances sociales du Tribunal cantonal du canton du Valais a rejeté l'action. Saisi d'un recours en matière de droit public contre ce jugement, le Tribunal fédéral l'a admis et a renvoyé la cause à l'autorité judiciaire de première instance pour des motifs procéduraux. B. Après avoir complété le dossier, la Cour des assurances sociales du Tribunal cantonal valaisan a rejeté l'action de A._ par jugement du 23 mars 2011. C. A._ interjette un recours en matière de droit public contre ce jugement en demandant son annulation. Il conclut, sous suite de frais et dépens, à ce que son droit à une rente d'invalidité LPP, avec intérêts moratoires, soit reconnu. 