Faits: A. En signant le 30 juillet 1996 une formule à l'en-tête de Z._ SA, à ... (VD), remplie à la main par un employé de cette société, X._ et Y._, agriculteurs à ... (VD), lui ont commandé la fourniture et la pose d'une installation complète de traite des bovins de marque "V._" pour le prix de 112'945 fr., dont à déduire 15'000 fr. de reprise, soit un total arrondi à 95'000 fr. net. Le prix se décomposait en un certain nombre de postes, dont le montage et le transport pour 6'200 fr. Le 14 août 1996, Z._ SA a établi une confirmation de commande, qui n'a pas été contresignée par X._ et Y._, laquelle mentionne notamment une garantie d'un an selon normes SIA. Le 10 septembre 1996, le chef de vente de Z._ SA a établi un plan de l'installation. X._ et Y._ ont eux-mêmes transformé, selon les instructions reçues, une ancienne étable en amont de la route xxx, à ..., pour y accueillir l'appareillage. Z._ SA a livré et monté l'installation en l'adaptant pour tenir compte des dimensions du local. La mise en service a eu lieu le 30 juillet 1997. Z._ SA a envoyé sa facture finale le 9 septembre 1997 en mentionnant une mise en service le 30 juillet 1997 et en rappelant que le délai de garantie était d'un an. Le 28 janvier 1998, le Service régional d'inspection et de consultation en matière d'économie laitière a considéré que l'installation était « en ordre ». Par la suite, Z._ SA est intervenue à plusieurs reprises pour des contrôles, des services d'entretien et des réparations, en dernier lieu le 15 décembre 2001. En mars 2001, un conseiller en production laitière a constaté que les vaches de X._ et Y._ présentaient une "mammite subclinique". Il a été relevé que l'hygiène du bétail était insatisfaisante. Dans un rapport du 3 avril 2002, le conseiller a mis en cause la machine à traire. Par lettre du 8 avril 2002, Y._, agissant également au nom de X._, s'est plaint auprès de Z._ SA de l'installation de traite. Sur mandat de Y._ donné ce même 8 avril 2002, B._, conseillère chez T._, a établi le 23 juillet 2002 un rapport évaluant à 135'589 fr. la perte économique subie par les agriculteurs. Toujours à la demande de Y._, A._, employé de l'entreprise W._ SA, a écrit un rapport le 26 juin 2002 au sujet de l'installation de traite. Le 27 juillet 2002, Y._ a adressé un pli recommandé à Z._ SA pour se plaindre principalement de l'installation non conforme des pulsateurs et faire valoir des pertes se montant à un total de 318'764 fr. Sur requête téléphonique de Y._ du 18 mars 2003, le Juge de paix du cercle de Mézières a ordonné, le 19 mars 2003, un constat d'urgence. En 2003, X._ et Y._ ont vendu l'installation de traite à C._, domicilié à ... (NE); l'installation fait depuis lors partie des équipements de cette exploitation agricole et fonctionne à satisfaction. Le 14 juin 2004, X._ et Y._ ont adressé à l'Office des poursuites d'Yverdon-les-Bains une réquisition de poursuite à l'encontre de Z._ SA pour un montant de 318'764 fr. avec intérêts. Z._ SA a fait opposition totale au commandement de payer qui lui a été notifié le 4 août 2004. Dans le délai d'une année, le 25 juillet 2005, X._ et Y._ ont adressé une nouvelle réquisition de poursuite au même office des poursuites, qui a conduit à la notification d'un commandement de payer le 10 août 2005, auquel la poursuivie a fait opposition totale. B. Par demande du 1er mars 2007 adressée à la Cour civile du Tribunal cantonal vaudois, X._ et Y._ ont conclu à ce que Z._ SA soit condamnée à leur verser, solidairement entre eux, la somme de 135'189 fr. avec intérêts à 5% l'an dès le 27 août 2002. La défenderesse a conclu à sa libération. L'expert judiciaire a conclu que l'installation de traite ne fonctionnait pas correctement, mais que les règles d'hygiène jouaient un rôle encore plus important; en ne les ayant pas respectées, les demandeurs avaient accentué une situation déjà précaire. Par jugement du 14 juin 2011, la Cour civile du Tribunal cantonal vaudois a rejeté les conclusions prises par X._ et Y._. Elle a considéré que le contrat conclu entre les parties devait être qualifié de contrat de vente avec obligation de montage. Elle a jugé que les conclusions prises devaient être rejetées tant en raison de la tardiveté de l'avis des défauts qu'en raison de la prescription des actions découlant de la garantie. Saisie d'un appel formé par les demandeurs, la Cour d'appel civile du Tribunal cantonal vaudois, par arrêt du 14 décembre 2011, a rejeté l'appel et confirmé le jugement attaqué. C. X._ et Y._ exercent un recours en matière civile au Tribunal fédéral. Invoquant une violation des art. 184 ss, 363 ss et 394 ss CO, ils concluent à la réforme du jugement attaqué, subsidiairement à son annulation, et reprennent leurs conclusions sur le fond, demandant que leur partie adverse soit condamnée à leur verser, solidairement entre eux, la somme de 135'189 fr. avec intérêts à 5% l'an dès le 27 août 2002. L'intimée propose le rejet du recours 