Faits: A. A.a La Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais (ci-après: la CRPE) est une institution indépendante de droit public dont le siège est à Sion (art. 1er al. 1 des statuts). Ses organes statutaires sont l'assemblée des délégués, la Commission de gestion (ci-après: la CG), le bureau de la Commission de gestion (ci-après: le BCG) et les réviseurs des comptes (art. 74 al. 1 des statuts de 1995 et 77 al. 1 des statuts de 2000). La CG désigne notamment son président et nomme le directeur. Le bureau est composé du président, du vice-président et du directeur. A.b La commission d'étude «placements» de la CG a mis sur pied une commission de placement, déjà opérationnelle en 1993, composée des quatre membres désignés de la CG, assistée de deux consultants externes. La composition de la Commission de placement (ci-après: la CP), organe non prévu par les statuts de la CRPE, a été fixée à cinq membres lors de la séance de la CG du 2 mars 1994, soit le directeur, le président, le vice-président, U._ et E._, laquelle a démissionné au 31 octobre 1996. Lors de l'entrée en vigueur - le 1er janvier 1999 - du règlement de placement, la CP ne comprenait que quatre membres, puis seulement trois dès septembre/octobre 1999 à la suite de la démission de U._. A l'origine, la CP était assistée de deux conseillers externes, soit O._ de la Banque X._, et I._ puis M._ de la banque Y._, laquelle a résilié le mandat le 17 décembre 1997. Ce poste de consultant n'a pas été repourvu. A.c R._, au bénéfice d'une formation d'enseignant, est devenu membre de la CG de la CRPE en 1973 en tant que représentant des associations du personnel. En 1989, il a été nommé par le Conseil d'Etat du canton du Valais en qualité de représentant de l'employeur. Par décision de cette autorité, au 1er janvier 1994 il s'est vu confier la présidence de la CRPE, en remplacement du président démissionnaire N._. En assumant cette charge, il a également présidé la CG et la CP. De même, il était membre du BCG, composé du 1er janvier 1994 au 31 décembre 2002 de R._ (président), de D._ (vice-président) et de G._ (directeur). Dans le cadre de ses attributions, il disposait de la signature collective à deux avec le directeur. A.d L._, propriétaire de la société Z._, s'est présenté au cours de 1996 devant la CP de la CRPE. Lors d'une séance de la CP du 25 septembre 1996, il a été proposé que la CRPE achète 1'500'000 «Special Warrants» ([SW], ou "bon de souscription spécial") auprès de la société canadienne A._, appelée à devenir B._ en mars 1997. Il s'agissait d'un investissement à deux phases de 750'000 SW le 27 septembre 1996 et de 750'000 SW le 8 octobre 1996. Selon les conditions d'investissement figurant sous ch. 4.1.3 du procès-verbal de la séance, Z._ s'engageait à reprendre 525'000 warrants à 3.50 $CAD (dollars canadiens) dans un délai de six mois à partir du 23 novembre 1996 et la CRPE s'engageait à livrer les 525'000 warrants à 3.50 $CAD. Les contrats de souscription ont été signés le 25 septembre 1996 par G._ et R._, pour le compte de la CRPE, et transmis à C._ SA, agent européen du courtier canadien chargé de lever les fonds pour A._. La CRPE a versé 1'875'000 $CAD (valeur 27 septembre 1996) pour l'achat de 750'000 SW de la société A._ à 2.50 $CAD le bon de souscription spécial, et 3'375'000 $CAD (valeur 8 octobre 1996) pour l'achat de 750'000 SW de la société A._ à 4.50 $CAD le bon de souscription spécial. R._, G._ et L._ ont signé un "contrat d'options" daté du 4 décembre 1996, conclu entre la CRPE et Z._. Ce contrat accordait à L._ la possibilité d'exercer une option de rachat d'actions ordinaires de la société A._, prochainement B._ (parag. 1). Il prévoyait que le nombre de titres concernés pourrait aller jusqu'à un total de 525'000, sous réserve que la sortie retardée du prospectus final n'entraîne une dilution de 10 %, laquelle serait alors répercutée sur l'ajustement du prix d'exercice de l'option dans un rapport identique (parag. 2). Le prix d'exercice de l'option de rachat était fixé initialement à 3.50 $CAD l'action, sous réserve du paragraphe 2 (parag. 3). La durée de l'exercice de l'option de rachat était fixée à six mois dès la livraison des titres définitifs et après exercice spécial du warrant y attenant lié à la livraison d'un prospectus final, cette option pouvant être rallongée de six mois selon entente entre les parties si le cours du titre restait en-dessous du niveau de 5.75 $CAD avant la première échéance (parag. 4). L'exercice de cette option pourrait se faire en une ou plusieurs tranches par L._ et "être utilisée" par ce dernier pour des livraisons de titres à des tierces parties, personnes individuelles ou établissements bancaires (parag. 5). Deux avenants datés également du 4 décembre 1996, qui modifiaient le point 4 du contrat d'options (daté) du 4 décembre 1996, ont été conclus par R._, G._ et L._. Le premier stipulait que la durée d'exercice était prolongée jusqu'au 31 décembre 2002, mais que le prix de l'exercice était bonifié d'un intérêt simple de 5 % l'an dès le 1er janvier 1997. Selon le second avenant, le point 4 du contrat d'options était modifié en ce qui concerne le prix de l'option de la façon suivante: "a) il est admis par les parties que l'apport de L._ en faveur de la Caisse est de 52'500.- CAD. b) il est convenu que L._ finance l'achat des 525'000 options au prix de 0.10 CAD l'unité par ces 52'500.- CAD. Cette pièce a valeur de quittance". A.e Le 13 novembre 1996, la CP avait confié un mandat de gestion à Z._. Le montant initial convenu à déposer auprès de la banque W._ était de CHF 5 millions fr. Vu les résultats enregistrés en deux ans, ce mandat a été résilié par lettre du 11 décembre 1998, le suivi du dossier étant confié par la CP à O._. A.f R._ a remis à L._ (quittance-vente du 30 mai 1999) la somme de CHF 55'000 fr. pour la vente à R._ "des 525'000 options () sur B._ détenues par le soussigné, L._ de Z._ auprès de la CRPE à Sion". A.g Au cours du premier semestre 2000, vu l'évolution favorable du titre B._, la CRPE a procédé à la vente de 1'500'000 actions de cette société. Par lettre du 11 août 2000, L._, se référant à un entretien relatif au contrat d'options, a invité la CRPE à verser un montant de 3'690'750 $CAD sur un compte ouvert auprès de la banque T._. Il indiquait que ce "montant correspond aux 525'000 options à valeur nette de $CAD 7,03 chacune (différence) selon votre décompte effectué". Le 19 septembre 2000, il a déclaré à l'attention de G._ de la CRPE qu'il lui donnait son accord "pour laisser le montant relatif aux options B._ à disposition de la caisse, jusqu'à la mi-décembre 2000". Le 17 juillet 2000, par l'intermédiaire de F._, gestionnaire de la banque H._, R._ avait ouvert une relation bancaire auprès de la banque H._, en annonçant un apport initial de fonds de l'ordre de 4 millions $CAD provenant de la vente d'actions en liaison avec un contrat d'options que lui avait cédé Z._. Le 20 décembre 2000, G._ et R._ ont signé collectivement à deux les ordres de débit et de paiement de la somme de 3'690'750 $CAD. Le 22 décembre 2000, par le débit du compte de la CRPE, la Banque X._ a viré ce montant sur le compte désigné auprès de la banque T._ (valeur 27.12.2000). Un ordre de bonification a été établi, portant sur le montant de 3'690'735 (moins 30) $CAD à virer sur le compte numérique de R._. Le 9 janvier 2001, la somme de 3'690'705 $CAD a été portée au crédit du compte de celui-ci auprès de la banque H._. A.h Dans une attestation du 30 avril 2001, signée par L._, celui-ci a affirmé qu'il reconnaissait "avoir vendu à R._ () les 525'000 options qu'il détenait auprès de la CRPE à Sion, à savoir les options sur B._ selon contrat d'options conclu avec la CRPE () le 04 décembre 1996". Il déclarait que cette attestation avait valeur de quittance "pour les 55'000 CHF payés par R._ pour acquérir les 525'000 options". Entre le 26 mai et le 10 juin 2002, R._ à remis à L._ 498'000 fr. (trois quittances) en liquide. Il lui a encore remis 25'000 fr. le 11 juillet 2002 et 25'000 fr. le 17 décembre 2002. A.i Sur décision du Conseil d'Etat du canton du Valais du 9 avril 2003, R._ a été suspendu de ses fonctions avec effet immédiat. Le Juge d'instruction cantonal a ouvert contre lui une instruction pénale le 22 juillet 2003, qu'il a complétée le 22 septembre 2003. Une ordonnance d'inculpation a été rendue le 20 juin 2007 notamment à l'encontre de R._. A.j Le 21 octobre 2009, le Tribunal du IIème Arrondissement pour le district de Sion a rendu un jugement en la cause pénale pendante entre le Ministère public, et la Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais, et la Fédération des magistrats, des enseignants et des fonctionnaires de l'Etat du Valais, et notamment R._. B. Affilié à la Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais, R._ a requis de la caisse en mars 2004 le versement d'une rente de retraite. Le 23 mars 2004, la CRPE a pris acte du choix d'une rente de retraite anticipée et du refus de R._ de lui restituer la somme qu'il avait encaissée suite à la vente des titres de la société B._. Elle l'avisait qu'elle entendait faire valoir une créance compensatrice à son égard. Dans une prise de position du 5 mai 2004, la CRPE a refusé l'octroi d'une rente mensuelle de retraite anticipée de 6'244 fr. dès le 1er avril 2004. Le montant de 6'244 fr. était compensé, mois par mois, depuis cette date jusqu'à concurrence du montant en capital de CHF 4'035'000 fr. correspondant à une partie du dommage qu'il avait causé à la caisse. En tant que de besoin, la compensation intervenait immédiatement avec le droit de base à la rente de vieillesse et les droits dérivés matérialisés par la réserve mathématique (montant capitalisé de CHF 939'465 fr.). Elle l'avisait que toutes les conditions de l'art. 52 LPP étaient remplies et qu'il devait restitution à la CRPE de la somme de CHF 4'035'000 fr. (contre-valeur de 3'690'790 $CAD), avec intérêts à 5 % l'an dès le 27 décembre 2001, et que le solde de la prétention en dommages et intérêts de la caisse non couvert par la présente compensation était réservé. C. Le 24 mai 2004, R._ a ouvert action contre la Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais devant le Tribunal cantonal du canton du Valais - qui a transmis l'affaire au Tribunal cantonal des assurances comme objet de sa compétence -, en demandant qu'ordre soit donné aux organes de la caisse de lui verser une rente mensuelle de 6'244 fr., avec effet au 1er avril 2004. Par décision du 25 septembre 2007, la juridiction cantonale a ordonné l'édition du dossier pénal. Par jugement du 1er juillet 2008, le Tribunal cantonal des assurances a prononcé que l'action était rejetée, dans la mesure où elle était recevable. Retenant que R._ devait répondre du dommage qu'il avait causé à la caisse dans le cadre de l'affaire B._, il a considéré que celle-ci était en droit de compenser, chaque mois, la rente mensuelle de retraite anticipée de 6'244 fr. à laquelle il avait droit dès le 1er avril 2004 avec sa créance en réparation du dommage, jusqu'à concurrence du montant en capital de 939'465 fr. (réserve mathématique de la rente) correspondant à une partie du dommage subi par elle. D. R._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de dépens, à son annulation, la Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais étant condamnée à lui verser une rente mensuelle de 6'244 fr. avec effet rétroactif au 1er avril 2004, au motif qu'aucune faute n'est reconnue en ce qui le concerne et qu'aucune compensation n'est admise au surplus. Il produit un dossier de huit pièces selon bordereau. La Caisse de retraite et de prévoyance du personnel enseignant du canton du Valais conclut, sous suite de frais et dépens, à l'irrecevabilité du recours, à titre subsidiaire au rejet du recours dans la mesure où il est recevable. L'Office fédéral des assurances sociales a renoncé à se déterminer. 