Faits: A. Par contrat conclu le 17 mars 2006 avec Z._ SA (la bailleresse), les époux H.X._ et F.X._ (les locataires) ont pris à bail, dès le 15 avril 2006, un appartement de cinq pièces, avec hall, cuisine agencée, salle de bain, WC séparé et salle de douche, au troisième étage de l'immeuble sis à l'avenue de ... à Pully (Vaud). Le loyer mensuel net était fixé à 1'900 fr., plus mensuellement 220 fr. à titre d'acompte pour le chauffage, l'eau chaude et les frais accessoires, lesquels comprenaient « les charges de préférence et les taxes publiques, telles que taxe d'épuration des eaux (entretien et utilisation), taxe d'égout et taxe d'enlèvement des ordures ». Le contrat prévoyait que les locataires fournissent des sûretés à la bailleresse, par un dépôt bancaire de 5'700 fr. Le 14 mars 2006, usant d'une formule officielle, la bailleresse avait communiqué aux conjoints précités que le locataire précédent avait versé par mois un loyer net de 1'323 fr., plus 220 fr. d'acompte de chauffage, eau chaude et frais accessoires. L'augmentation du loyer était motivée par « l'adaptation aux loyers usuels de la localité ou du quartier (art. 269a litt. a du CO ». La bailleresse a répété cette communication le 27 mars 2006 dans les mêmes termes, mais en ajoutant, sous la rubrique « Motifs de la hausse éventuelle », la phrase suivante: « en outre, nous signalons que cet appartement a fait l'objet d'une rénovation complète pour un montant de Fr. 51'000 ». Il a été retenu que le bâtiment dans lequel se trouve l'appartement en question a été construit en 1961. B. B.a Par requête du 25 avril 2006 adressée à la Commission de conciliation compétente puis, après échec de la conciliation, par demande du 8 novembre 2006 déposée devant le Tribunal des baux du canton de Vaud, les locataires ont contesté le loyer initial convenu. Principalement, leur demande tendait à faire réduire le loyer net de l'appartement, dès le 15 avril 2006, au montant de 900 fr. par mois; la bailleresse devait être condamnée à leur rembourser les sommes payées par eux, à titre de loyers, au-delà de ce même montant, avec intérêts au taux de 5% l'an dès le 25 avril 2006; à la banque concernée, le tribunal devait ordonner la libération immédiate de 3'000 fr. sur la garantie que les locataires avaient constituée en faveur de la bailleresse. Subsidiairement, les locataires requéraient que le loyer net de l'appartement soit fixé, dès le 15 avril 2006, au montant de 1'323 fr. par mois, que la bailleresse doive leur rembourser les parts des loyers payées en trop, avec les mêmes intérêts, et qu'il soit ordonné à la banque concernée de libérer sans délai en leur faveur la somme de 1'731 fr. sur la garantie qu'ils avaient constituée. La bailleresse a conclu au rejet de l'action. En cours d'instance, la défenderesse a produit des fiches comparatives concernant sept appartements sis à Pully, dont deux se trouvaient à l'avenue de ..., deux au chemin du ..., un à la route de ..., un au chemin de ... et le dernier à l'avenue des .... Elle a requis qu'une expertise soit mise en oeuvre pour établir les loyers du quartier. Par jugement du 4 juin 2007, le Tribunal des baux a partiellement accueilli l'action. Il a jugé que la bailleresse avait échoué dans la preuve des loyers usuels dans le quartier ou la localité au sens de l'art. 269a let. a CO, de sorte que le loyer convenu entre les parties se révélait abusif. Le taux hypothécaire avait considérablement diminué depuis la plus récente fixation du loyer du locataire précédent, de sorte que ce loyer-ci, quoique très inférieur au loyer incriminé, était lui aussi abusif. Sur la base d'un calcul tenant compte de divers facteurs, le loyer initial mensuel net devait être fixé dès le 15 avril 2006 à 1'132 fr., avec références à 3% pour le taux hypothécaire et à 155,1 points pour l'indice des prix à la consommation (IPC), base 1983 (recte: décembre 1982). La défenderesse était condamnée à rembourser 5'760 fr. avec intérêts au taux de 5% par an dès le 5 décembre 2006. La banque concernée devait libérer 2'304 fr. sur la garantie constituée par les demandeurs. Saisie d'un recours de la bailleresse, qui voulait que le loyer initial net de l'appartement soit fixé à 1'900 fr. par mois, et d'un recours joint des locataires, qui requéraient notamment que le loyer initial net du logement soit réduit à 1'015 fr.35 par mois, la Chambre des recours du Tribunal cantonal vaudois, par arrêt du 1er octobre 2008, a jugé, contrairement à l'opinion des premiers juges, que la défenderesse avait fourni un nombre suffisant d'exemples comparatifs pertinents et concluants, aptes à mettre en évidence les loyers usuels dans le quartier ou la localité, de sorte que le loyer convenu entre les parties n'était pas abusif. En conséquence, la cour cantonale a admis le recours principal, rejeté le recours joint et, réformant le jugement du 4 juin 2007, rejeté l'action des locataires. Les locataires ont interjeté un recours en matière civile au Tribunal fédéral contre cet arrêt. Statuant par arrêt du 24 avril 2009 (affaire 4A_573/2008), le Tribunal fédéral a partiellement admis le recours, annulé l'arrêt de la Chambre des recours et renvoyé la cause au Tribunal cantonal pour nouvelle décision. La juridiction fédérale a considéré qu'elle n'était pas en mesure de se prononcer sur les critiques des locataires, du moment que le Tribunal des baux n'avait pas procédé à une comparaison entre le logement litigieux et les fiches descriptives apportées par la bailleresse et que la cour cantonale s'était bornée à faire état de son « impression d'ensemble »; il se justifiait ainsi d'annuler l'arrêt déféré et d'inviter la cour cantonale à prendre une nouvelle décision devant décrire « de façon précise les comparaisons effectuées pour établir les loyers usuels » ou à retourner la cause au Tribunal des baux, selon le droit cantonal applicable. B.b Par arrêt de renvoi du 7 octobre 2009, la Chambre des recours a annulé d'office le jugement rendu le 4 juin 2007 par le Tribunal des baux et renvoyé l'affaire à cette autorité pour nouvelle instruction dans le sens des considérants de l'arrêt du Tribunal fédéral. Au cours de l'audience qui s'est tenue le 17 janvier 2011 devant le Tribunal des baux, lequel avait repris l'instruction, la bailleresse a requis, pour autant que de besoin, la mise en oeuvre d'une expertise ou de visites locales destinées à établir les loyers usuels de la localité ou du quartier sur la base des objets de comparaison qu'elle avait indiqués. Par jugement du 3 février 2011, dont les motifs ont été communiqués le 23 décembre 2011, le Tribunal des baux a dit que le loyer initial mensuel net dû par les locataires était fixé à 1'323 fr. dès le 15 avril 2006 (I), que la bailleresse devait rembourser aux locataires la somme de 33'177 fr.50 (II) et que la garantie déposée par les locataires, ascendant à 5'700 fr., devait être libérée à hauteur de 1'731 fr. en faveur de ces derniers (III). Le tribunal a tout d'abord constaté qu'il n'était plus contesté que les locataires étaient recevables à s'en prendre au loyer initial en vertu de l'art. 270 al. 1 CO. Il a écarté six des sept éléments de comparaison proposés par la bailleresse pour établir les loyers usuels au sens de l'art. 269a let. a CO et laissé la question ouverte pour le dernier appartement (i.e. l'exemple n° 7). Au vu de ce résultat, le tribunal a estimé qu'il ne se justifiait pas de mettre en oeuvre une inspection locale ou une expertise. Retenant que la bailleresse devait supporter les conséquences de l ́échec de la preuve des loyers usuels, il a jugé que le loyer initial convenu était abusif et que le loyer non abusif correspondait au loyer précédent, faute d'éléments conduisant à la fixation du loyer initial à un montant inférieur. Les locataires pouvaient ainsi prétendre à la restitution des montants payés en trop, pour un total de 33'177 fr.50 correspondant à une différence mensuelle de 577 fr. sur chacun des loyers acquittés pendant la période du 15 avril 2006 au 17 janvier 2011, soit 57,5 loyers mensuels. La baisse du loyer initial justifiait une réduction proportionnelle de la garantie locative versée par les locataires au montant de 3'969 fr., représentant trois mois de loyer net, la garantie devant être partiellement libérée à hauteur du montant excédentaire, soit 1'731 fr. Saisie d'un appel de la bailleresse, qui concluait à ce que le loyer initial mensuel net de l'appartement remis à bail aux locataires soit arrêté à 1'900 fr. par mois dès le 15 avril 2006, avec références à 3% pour le taux hypothécaire et à 154,8 points pour l'IPC, base 1983, « charges d'exploitation égalisées à fin 2005 », la Cour d'appel civile du Tribunal cantonal vaudois, par arrêt du 15 mai 2012, a admis l'appel, réformé le chiffres I du jugement attaqué dans le sens où le loyer initial mensuel net dû par les locataires pour l'appartement a été arrêté à 1'900 fr. dès les 15 avril 2006, avec les références indiquées par la bailleresse, et supprimé les chiffres II et III du jugement, cette décision étant confirmée pour le surplus. La motivation adoptée par la Cour d'appel civile dans l'arrêt susrappelé peut être résumée comme il suit: 1. Après examen des sept exemples de comparaison apportés par la bailleresse, seuls deux (cotés sous n°s 1 et 7) peuvent être retenus. S'agissant des exemples n°s 4, 5 et 6, il conviendrait de procéder à une inspection locale pour vérifier l'équivalence globale. Toutefois, la question peut rester indécise, étant donné les « conséquences résultant de l'échec de la preuve et de la contre-preuve en matière de loyers comparatifs ». Les locataires n'ont en effet pas allégué des loyers comparatifs plus bas que le leur et se sont bornés à contester les cas avancés par la bailleresse, de sorte qu'il doit être retenu qu'ils n'ont pas non plus, de leur côté, établi le caractère abusif du loyer initial contesté. 2. Lorsque le bailleur et le locataire échouent tous deux dans la preuve qu'ils doivent apporter pour faire aboutir leur prétention, la question de la charge de la preuve doit être résolue pour déterminer quelle partie supporte les risques de carence de la preuve utile. Tant du côté du preneur que du bailleur, le cadre du litige est celui de l'art. 269a let. a CO. Conformément à la doctrine majoritaire, il appartient au locataire de supporter le fardeau de la preuve du caractère abusif du loyer initial convenu. Lorsque le bailleur, dans la formule officielle, invoque l'art. 269a let. a CO pour motiver la fixation du loyer initial, il doit contribuer à la contre-preuve de démontrer que le loyer se tient dans les limites usuelles. Pour que la contre-preuve aboutisse, il est seulement exigé que la preuve principale soit affaiblie, mais pas que le juge soit convaincu de l'exactitude de la contre-preuve. L'instruction doit être complète sur la contre-preuve avant que le juge ne statue sur les conséquences d'un éventuel échec de celle-ci. Il n'y a cependant pas de motif de traiter différemment le cas où le locataire a fait d'emblée porter le débat sur les loyers du quartier et celui où le bailleur a invoqué lui-même ce critère, en vertu de l'inversion de la priorité entre les critères absolus de fixation de loyer lorsque l'immeuble a été acquis il y a quelques décennies. Renverser ou affaiblir le fardeau de la preuve incombant au locataire dans cette hypothèse reviendrait à désavantager le propriétaire de longue date. Il suffirait au locataire de rester purement passif pour obtenir que le loyer initial soit arrêté, au pire pour lui, au niveau du précédent loyer, sans devoir établir d'abus de la part du bailleur. Puisque l'art. 270 CO constitue une dérogation au principe de la liberté contractuelle, il est conforme au principe général de l'art. 8 CC d'exiger de celui qui prétend que son loyer initial est abusif et qui requiert une adaptation du loyer convenu qu'il l'établisse et qu'il subisse ainsi l'échec du fardeau de cette preuve. Dès l'instant où tant les locataires, dans la preuve du caractère abusif, que la bailleresse dans sa contre-preuve échouent, cette carence des deux parties doit amener, en application de l'art. 8 CC, à l'admission de l'appel, si bien qu'il n'y a pas lieu de donner suite à la réquisition d'expertise ou d'inspection locale de la bailleresse. Le loyer initial mensuel net des locataires doit être fixé à 1'900 fr. dès le 15 avril 2006, avec les références à 3% pour le taux hypothécaire et à 154,8 points pour l'IPC, base 1983, « charges d'exploitation égalisées à fin 2005 ». Aucune restitution de loyers payés en trop n'entre en ligne de compte, ni de réduction de la garantie locative fournie par les locataires. C. H.X._ et F.X._ exercent un recours en matière civile au Tribunal fédéral. Invoquant une violation de l'art. 270 CO, les recourants concluent à la réforme de l'arrêt attaqué en ce sens que le jugement rendu le 3 février 2011 par le Tribunal des baux est confirmé. L'intimée propose le rejet du recours dans la mesure de sa recevabilité. 