Faits: A. A.a Le 31 mai 1990, Y._, à laquelle a succédé la Banque X._, a accordé à A._ un crédit en compte courant de 6'000'000 fr. ainsi qu'une avance à terme fixe de 3'750'000 fr. Ces crédits ont été dénoncés au remboursement le 10 décembre 1993. Par deux actes de cession en propriété et à fin de garantie du 27 août 1990 - le second acte étant cosigné avec son frère B._ -, A._ a remis à Y._, en tant que propriétaire fiduciaire aux fins de garantie, deux cédules hypothécaires au porteur de 6'000'000 fr. (cédule no 4), respectivement 2'000'000 fr. (cédule no 5), grevant les art. 1513 et 1164 de la commune de C._. Les cédules ont été dénoncées au remboursement le 30 octobre 1996. A.b Le 12 septembre 2003, A._ s'est vu notifier un commandement de payer dans la poursuite en réalisation de gage immobilier no 1 pour un montant de 6'000'000 fr. plus intérêts à 10% l'an dès le 4 septembre 2000 au titre de capital et accessoires dus sur la cédule hypothécaire no 4. Un commandement de payer au libellé identique lui a été notifié en sa qualité de tiers propriétaire de l'immeuble dans la poursuite no 2, dirigée contre son frère B._. A la même date, un commandement de payer a été notifié à A._ dans la poursuite en réalisation de gage immobilier no 3 portant sur un montant de 2'000'000 fr. avec intérêts à 10% dès le 4 septembre 2000 au titre de capital et accessoires dus sur la cédule hypothécaire no 5. A._ a fait opposition totale à ces commandements de payer. Par prononcés consécutifs à une audience du 8 janvier 2004, la Présidente du Tribunal civil d'arrondissement de La Côte, statuant par défaut, a prononcé la mainlevée provisoire des oppositions. A.c Le 29 janvier 2004, par demande adressée à la Cour civile du Tribunal cantonal du canton de Vaud, A._ a introduit une action en libération de dette contre la Banque X._, concluant notamment à ce qu'il soit dit qu'il n'est pas débiteur des montants objets des poursuites en réalisation de gage immobilier nos 1, 2 et 3. La Banque X._ a conclu reconventionnellement au paiement des créances causales correspondant au solde du compte courant et de l'avance à terme fixe. Le 25 novembre 2009, la Cour civile a notamment condamné A._ à payer à la Banque X._ la somme de 4'219'456 fr. avec intérêts à 8,5% dès le 30 septembre 1993, sous déduction de dix-huit versements de 3'000 fr., de quatre versements de 6'000 fr., d'un versement de 19'523 fr. 10 et d'un versement de 5'125 fr. 35, valeur à la date de leur paiement (ch. II), puis condamné le débiteur à payer à la Banque X._ la somme de 3'916'406 fr. 26 avec intérêts à 8 7/8% dès le 27 février 1993 (ch. III); la Cour civile a également levé définitivement les oppositions formées aux commandements de payer dans les poursuites en réalisation de gage immobilier fondées sur les créances abstraites (ch. VI, VII et IX) et a enfin condamné le débiteur à verser à la Banque X._ le montant de 92'423 fr. 25 à titre de dépens (ch. XI). B. En 2011, la Banque X._ a requis la poursuite ordinaire de A._ en se fondant sur le jugement précité, à savoir pour les deux créances causales et la créance de dépens. Le débiteur a formé opposition totale au commandement de payer qui lui a été notifié le 12 août 2011 (poursuite ordinaire no xxxx). Le 22 août 2011, A._ a déposé plainte au sens de l'art. 17 LP, en particulier contre la notification du commandement de payer, invoquant le beneficium excussionis realis et concluant à l'annulation de tout acte tendant à la poursuite par voie ordinaire. Par décision du 13 décembre 2011, la Présidente du Tribunal d'arrondissement de La Côte, statuant en qualité d'autorité inférieure de surveillance, a rejeté la plainte. La Cour des poursuites et faillites du Tribunal cantonal du canton de Vaud, en qualité d'autorité supérieure de surveillance, a confirmé le rejet de la plainte par arrêt du 29 mars 2012. C. Agissant par la voie du recours en matière civile le 24 avril 2012, A._ conclut à l'admission de son recours et, en conséquence, de sa plainte, tout acte de poursuite visé par celle-ci étant annulé, à tout le moins à hauteur des montants des créances cédulaires avec accessoires. Des déterminations n'ont pas été demandées. D. Par ordonnance du 29 mai 2012, la Présidente de la Cour de céans a attribué au recours le bénéfice de l'effet suspensif. 