Faits: A. En mars 2004, la Banque Y._ a mandaté l'avocat X._ pour défendre ses intérêts dans le cadre d'une action en libération de dette ouverte contre elle par A.V._ et B.V._, à la suite d'une poursuite en réalisation de gage immobilier; le procès portait sur une somme de l'ordre de 60 millions de francs. Six ans plus tard, Y._ a obtenu presque entièrement gain de cause devant la Cour civile du Tribunal cantonal du canton de Vaud. X._ avait déjà reçu de nombreux mandats de Y._, avec laquelle il travaillait depuis des dizaines d'années. Les parties n'ont jamais rien convenu au sujet de la rémunération du mandataire. Par ailleurs, l'avocat n'a pas réclamé de provision à sa cliente et n'a pas tenu un décompte précis du temps consacré à chaque opération, ayant pour habitude de facturer ses honoraires au terme de chaque mandat. En novembre 2010, Y._ a résilié le mandat. Le 13 janvier 2011, X._ a établi une note d'honoraires et de débours d'un montant de 1'200'000 fr., plus la TVA par 91'200 fr.; après déduction des dépens perçus en cours de procédure, le solde réclamé s'élevait à 1'284'206 fr., TVA comprise. L'avocat justifiait ses prétentions en particulier par un "travail assidu et continu d'au moins dix mois pleins et largement pleins". B. Le 19 janvier 2011, Y._ a requis du Président de la Cour civile du Tribunal cantonal du canton de Vaud la modération de la note d'honoraires de X._. L'avocat a conclu au rejet de la requête et à l'admission de sa note d'honoraires et débours au montant de 1'284'206 fr. Il a précisé avoir consacré au mandat confié par Y._ entre 1'900 et 1'995 heures, à savoir entre 10 et 10 mois et demi à raison de 190 heures par mois. Par prononcé du 6 janvier 2012, le Président de la Cour civile a modéré la note d'honoraires du 13 janvier 2011 à la somme de 151'812 fr.50, plus 11'537 fr.75 de TVA, sous déduction de 6'994 fr., soit 156'356 fr.25 au total. Sur la base des éléments du dossier, le premier juge a tout d'abord évalué à 202.25 heures le temps consacré à l'exécution du mandat. Il a ensuite augmenté le tarif horaire de 350 fr., usuel à l'époque dans le canton de Vaud, en trois paliers, à savoir à 450 fr. pour tenir compte de l'expérience professionnelle de l'avocat et de la nature de l'affaire, à 600 fr. eu égard à l'enjeu du procès, puis à 750 fr. sur le vu du résultat obtenu. X._ a recouru contre cette décision. Par arrêt du 5 octobre 2012, la Chambre des recours civile du Tribunal cantonal vaudois a rejeté le recours et confirmé le prononcé de modération. C. X._ interjette un recours en matière civile. Principalement, il demande au Tribunal fédéral de réformer l'arrêt cantonal en ce sens que la note d'honoraires du 13 janvier 2011 est fixée à 1'284'206 fr. A titre subsidiaire, il conclut à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants. Y._ propose le rejet du recours. X._ a déposé des observations finales, suivies d'une ultime prise de position de Y._. Pour sa part, la cour cantonale se réfère aux considérants de son arrêt. 