Faits: A. Z._ AG (ci-après: Z._), dont le siège est à ..., est active dans le domaine du conseil économique, plus particulièrement dans le secteur du placement de capitaux et de patrimoines privés. Cette société comprend un service externe et un service interne: le service interne s'occupe des affaires administratives et apporte son soutien aux agents du service externe, alors que ledit service a pour tâche de démarcher et conseiller les clients de Z._. X._ a débuté son activité chez Z._ le 24 juin 1993; il a été inscrit au registre du commerce avec procuration collective à deux. Selon le contrat signé par les parties les 24 juin et 27 août 1993, intitulé « Agenturvertrag », X._ était engagé en qualité d'agent indépendant au service externe de Z._. Ce contrat, rédigé en allemand - langue que X._ parle couramment -, stipulait ce qui suit: le rôle du prénommé était celui d'un simple négociateur, rémunéré exclusivement sur la base de commissions découlant de la conclusion de contrats; X._ était tenu de respecter les instructions commerciales, orales ou écrites, de la société concernant la palette des produits et devait suivre les formations dispensées par celle-ci; pour le reste, il était libre d'exercer son activité, à titre principal ou accessoire, dans les limites territoriales qui lui étaient imparties, soit l'ensemble de la Suisse et du Liechtenstein; il pouvait choisir son horaire ainsi que les personnes avec lesquelles il souhaitait négocier des affaires, mais n'était pas autorisé à recevoir des clients pour entretien ou conseil à son propre domicile ni à travailler avec des tiers non liés par contrat avec Z._; X._ devait prendre en charge les frais professionnels et matériels liés à son activité, s'acquitter des cotisations aux assurances sociales et conclure une assurance perte de gain maladie et accidents pour une période minimale de six mois. Le contrat précité, conclu pour une durée indéterminée, était résiliable pour la fin de chaque trimestre, moyennant un préavis de trois mois. Dans sa lettre de motivation, X._ avait indiqué qu'il souhaitait jouir d'un statut d'indépendant. Il a été constaté qu'il pensait conclure un contrat d'agence, et non pas un contrat de travail. Le 10 mars 1998, les parties ont signé un avenant à leur accord, spécifique pour les « agents de direction », qui prévoyait notamment que « l'agent de direction est tenu de recruter de nouveaux agents, de suivre les agents et les clients de son organisation et de veiller à ce que son organisation procède constamment aux suivis nécessaires (...) ». Il a été retenu que, tout au long de son activité, X._ n'a pas exercé des activités autres que celles découlant de son statut de collaborateur externe et d'« agent de direction », pas plus qu'il n'a eu à effectuer des travaux purement administratifs dans le seul intérêt de Z._; il n'a jamais demandé le remboursement de frais personnels ou de matériel liés à l'exercice de son activité (tels les frais de déplacement, de bureau, de téléphone), dépenses qu'il a assumées en totalité (sous réserve de certains frais de formation) et qu'il a déduites de son revenu imposable; sa rémunération, qui évoluait selon un plan de carrière, était exclusivement basée sur les commissions découlant des contrats que lui-même ou l'un des agents de son groupe concluaient; il décidait seul de la prise de jours de repos et était libre de travailler pour d'autres mandants. En juin 2001, X._ a souhaité mettre fin aux rapports contractuels noués avec Z._. Aussi les parties ont-elles signé le 20 juin 2001 une convention d'annulation de l'« Agenturvertrag », à teneur de laquelle Z._ a accepté de verser à X._ une indemnité de départ unique de 50'000 fr. Le 26 novembre 2002, Z._ a établi une lettre de référence pour X._, qui précisait en particulier que ce dernier avait travaillé au service de la première du 19 août 1993 au 20 juin 2001 en qualité de « conseiller économique indépendant dans le cadre d'un contrat d'agence ». Il n'a pas été établi que X._ ait contesté ce document. Par courrier du 7 juillet 2004, le conseil de X._ a fait part à Z._ que son client avait des prétentions en remboursement de frais professionnels à son égard; Z._ a contesté devoir quoi que ce soit au précité. Le 11 juillet 2005, X._ a fait notifier à Z._ un commandement de payer la somme de 527'870 fr.20 plus intérêts à 5% l'an dès le 20 juin 2001; la poursuivie y a fait opposition. B. Par demande du 30 novembre 2005 déposée devant la Cour civile du Tribunal cantonal vaudois, X._ a conclu à ce qu'il soit dit que les parties étaient liées par un contrat d'engagement des voyageurs de commerce tel que l'entendent les art. 347 ss CO et à ce que Z._ soit condamnée à lui payer les montants de 101'471 fr.20 plus intérêts à 5% l'an dès le 20 juin 2001 et de 426'399 fr. avec les mêmes intérêts, libre cours étant laissé à la poursuite notifiée le 11 juillet 2005. La défenderesse a conclu principalement à ce que l'action soit déclarée irrecevable, subsidiairement à ce qu'elle soit rejetée. Par jugement incident du 26 septembre 2006, le Juge instructeur de la Cour civile a rejeté la requête en déclinatoire déposée le 4 avril 2006 par Z._. Dans cette décision, ce magistrat a considéré notamment qu'il paraissait « à tout le moins plausible que les parties étaient liées par un contrat de travail, plus précisément par un contrat d'engagement des voyageurs de commerce, sans qu'une autre qualification soit exclue » (cf. arrêt attaqué, consid. 4 p. 16). Dans une décision préjudicielle prise le 7 avril 2009, la Cour civile a considéré, dans l'hypothèse où la convention conclue par les parties devrait être qualifiée de contrat de travail, que les prétentions du demandeur relatives au remboursement des frais professionnels échues avant le 11 juillet 1995 seraient prescrites. Par jugement du 28 juillet 2011, dont la motivation a été communiquée le 7 mars 2012, la Cour civile a rejeté les conclusions prises par le demandeur contre la défenderesse. Le demandeur a appelé de ce jugement. Il a conclu principalement à ce que le jugement déféré soit annulé et à ce que la défenderesse soit condamnée à lui verser les sommes de 88'483 fr.25 avec intérêts à 5% l'an dès le 20 juin 2001 à titre d'indemnités pour vacances non prises et de 347'994 fr., avec les mêmes intérêts, « au titre de frais professionnels (35% du revenu) ». Subsidiairement, « si le montant forfaitaire de 35% n'est pas admis », il a requis la condamnation de sa partie adverse à lui payer « le montant de 248'567 fr. avec intérêts à 5% dès le 20 juin 2001 (25% du revenu) ». Encore plus subsidiairement, « si le montant forfaitaire de 35 ou 25% n'est pas admis », il a sollicité la condamnation de la défenderesse à lui verser la somme de 227'911 fr.15 avec intérêts à 5% l'an dès le 20 juin 2001 « correspondant aux frais professionnels prouvés et admis par l'Administration fiscale ». Par arrêt du 11 juin 2012, la Cour d'appel civile du Tribunal cantonal vaudois a rejeté l'appel et confirmé le jugement attaqué. Examinant l'ensemble des circonstances de l'affaire, la cour cantonale a qualifié de contrat d'agence au sens des art. 418a ss CO la convention ayant lié les plaideurs et rejeté en conséquence les prétentions du demandeur en remboursement de frais professionnels et en paiement de vacances non prises que celui-ci avait fondées sur un contrat de travail. C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal. Il reprend l'ensemble des conclusions qu'il avait formulées devant la Cour d'appel, sollicitant encore, à titre le plus subsidiaire, l'annulation de l'arrêt cantonal et le renvoi de la cause à la Cour d'appel pour nouvelle décision. L'intimée propose le rejet du recours. Les parties ont encore déposé des observations confirmant leur position juridique. 