Faits: A. A.a. Le 31 mai 1990, la Banque W._, à laquelle a succédé la Banque Z._ (ci-après: la banque ou la Banque Z._), a octroyé à chacun des frères A.X._ et B.X._ un crédit en compte courant de _ fr. avec intérêts. A titre de garantie, chaque emprunteur a cédé en propriété à la Banque une cédule hypothécaire au porteur de _ fr. en premier rang grevant sa quote-part d'une demie de la parcelle n° 2 (cédule n° xxx pour B.X._ et cédule n° yyy pour A.X._). Le 26 juillet 1990, les deux crédits ont été restructurés de manière identique pour chacun des frères sous la forme d'un compte courant de 3'750'000 fr. et d'une avance à terme fixe du même montant. Afin de garantir cette augmentation de crédit, les deux emprunteurs ont cédé en propriété à la banque la cédule hypothécaire au porteur de 2'000'000 fr. qu'ils avaient constituée sur la parcelle n° 1 (cédule n° zzz). A.b. En ce qui concerne A.X._, après un premier acte de cession du 14 juin 1990, il a signé le 27 août 1990 deux actes de cession en propriété et à fin de garantie - le second acte étant cosigné avec son frère B.X._ -, par lesquels il a remis à la banque en tant que propriétaire fiduciaire aux fins de garantie - dont la qualification de garantie fiduciaire ( Sicherungsübereignung ) n'est en soi pas contestée -, la cédule hypothécaire au porteur de 6'000'000 fr. (cédule n° yyy) et celle de 2'000'000 fr. (cédule n° zzz). Ces deux actes, sur formules préimprimées de la banque, garantissent les prétentions actuelles et futures de la banque et renvoient aux conditions spéciales figurant au verso ainsi qu'aux conditions générales de la banque, contresignées par l'intéressé. En ce qui concerne l'exécution forcée, sous le titre " Droit de gage et de compensation ", l'art. 8, 3è me phrase, des conditions générales prévoit uniquement qu' "en cas de demeure du client, la banque peut, à son choix, réaliser les gages de gré à gré ou par voie de poursuite ". A.c. Les crédits ont été dénoncés au remboursement le 10 décembre 1993. Les cédules l'ont été le 30 octobre 1996. Entre 1994 et 1997, la banque a introduit plusieurs poursuites contre les deux débiteurs. B. Le 12 septembre 2003, des commandements de payer ont à nouveau été notifiés à A.X._ et à son frère. B.a. En ce qui concerne A.X._, trois commandements de payer dans des poursuites en réalisation de gage immobilier lui ont été notifiés: le premier pour un montant de 6'000'000 fr. plus intérêts à 10 % l'an dès le 4 septembre 2000 sur la base de la cédule hypothécaire n° yyy (poursuite n° 4); le deuxième, au libellé identique, sur la base de la cédule n° xxx, lui a été notifié en sa qualité de tiers propriétaire du gage (poursuite n° 5); le troisième pour le montant de 2'000'000 fr. avec intérêts à 10 % dès le 4 septembre 2000 sur la base de la cédule hypothécaire n° zzz (poursuite n° 6). Les oppositions formées par A.X._ à ces commandements de payer ont été levées par prononcés de mainlevée provisoire. B.b. Le 29 janvier 2004, A.X._ et B.X._ ont introduit une action en libération de dette contre la Banque Z._ devant la Cour civile du Tribunal cantonal du canton de Vaud, concluant notamment à ce qu'il soit dit qu'ils ne doivent pas les montants objets des poursuites en réalisation de gage immobilier n os 4, 5 et 6/7. La Banque Z._ a conclu reconventionnellement au paiement par chacun des débiteurs des créances correspondant au solde de leurs comptes courants et de leurs avances à terme fixe, à savoir, contre A.X._, au paiement des montants de 8'705'120 fr. 75 plus intérêts à 9 1/4 % l'an dès le 1 er juillet 2002 et de 3'916'406 fr. 25 avec intérêts à 8 7/8 % l'an dès le 27 février 1993. Par jugement du 25 novembre 2009, dont la motivation a été notifiée le 13 juillet 2010, la Cour civile a, en ce qui concerne A.X._, partiellement admis son action en libération de dette (ch. I); sur reconvention, l'a condamné à payer à la Banque Z._ la somme de 4'219'456 fr. avec intérêts à 8,5 % dès le 30 septembre 1993, sous déduction de dix-huit versements de 3'000 fr., de quatre versements de 6'000 fr., d'un versement de 19'523 fr. 10 et d'un versement de 5'125 fr. 35, valeur à la date de leur paiement (contrat de compte courant; ch. II), ainsi que la somme de 3'916'406 fr. 26 avec intérêts à 8 7/8 % dès le 27 février 1993 (avance à terme fixe; ch. III); elle a levé les oppositions que le débiteur avait formées aux trois commandements de payer en réalisation de gage immobilier, à savoir à concurrence des créances abstraites de 6'000'000 fr. plus intérêts dans la poursuite n° 4 (ch. VI), de 6'000'000 fr. plus intérêts dans la poursuite n° 5 (ch. VII) et de 2'000'000 fr. plus intérêts dans la poursuite n° 7 (ch. IX); elle l'a enfin condamné au versement de 92'423 fr. 25 à titre de dépens (ch. XI). Les recours interjetés au Tribunal fédéral contre ce jugement par les deux frères ont été rejetés (arrêt 4A_513/2010 et 4A_515/2010 du 30 août 2011). B.c. La banque a requis la continuation des poursuites en réalisation de gage immobilier. C. Se fondant sur le jugement de la Cour civile du 25 novembre 2009, la banque a requis, le 8 août 2011, la poursuite ordinaire de A.X._ en recouvrement des deux créances causales et de la créance de dépens pour les montants alloués. Celui-ci a fait opposition au commandement de payer qui lui a été notifié (poursuite n° 8) le 12 août 2011. La plainte formée par le débiteur contre la notification de ce commandement de payer a été définitivement rejetée par arrêt du Tribunal fédéral du 9 octobre 2012 (arrêt 5A_295/2012), l'exception du beneficium excussionis realis de l'art. 41 al. 1bis LP ne pouvant être opposée, ni aux deux créances causales puisqu'elles ne sont pas garanties par gage, ni à la créance de dépens. Dans la procédure de mainlevée introduite le 16 août 2011, dans laquelle le délai de détermination du poursuivi avait été prolongé jusqu'à droit connu sur le sort de la plainte sus-mentionnée, le juge de paix du district de Nyon a accordé la mainlevée définitive de l'opposition par décision du 11 janvier 2013, décision envoyée aux parties le 15 janvier 2013, considérant que le poursuivi n'avait fait valoir aucun des moyens de libération de l'art. 81 al. 1 LP. Statuant le 15 août 2013, la Cour des poursuites et faillites du Tribunal cantonal vaudois a rejeté le recours du poursuivi et confirmé le prononcé de mainlevée définitive, pour des motifs qui seront exposés dans les considérants de droit ci-dessous. D. Contre cet arrêt, A.X._ a interjeté un recours en matière civile au Tribunal fédéral le 17 septembre 2013, concluant à sa réforme en ce sens que la mainlevée de son opposition est refusée. Il invoque la violation des art. 81 LP et 19 et 398 CO. Invitées à se déterminer, la cour cantonale se réfère à son arrêt et la Banque Z._ conclut principalement au rejet du recours et, subsidiairement, à son admission partielle en ce sens que la mainlevée soit accordée, d'une part, pour les montants des créances causales en poursuite selon les ch. II et III du jugement du 25 novembre 2009 (cf. consid. B.b ci-dessus), mais sous déduction des montants des créances abstraites de 7'800'000 fr. avec intérêts à 10 % l'an dès le 21 juin 2011, et, d'autre part, pour la créance de dépens de 92'423 fr. 25 avec intérêts à 5 % l'an dès le 10 août 2011. La réponse a été communiquée au recourant pour information. 