Faits: A. Le 16 février 1999, X._ et Y._ (ci-après: les locataires) ont pris à bail des locaux d'environ 180 mètres carrés et une surface commune calculée au prorata d'environ 16 mètres carrés, propriétés de A._ SA. Le loyer annuel était fixé à 26'496 fr. Le bail était conclu pour une période initiale allant jusqu'au 29 février 2000, soit un an et quelques jours; il était ensuite renouvelable tacitement d'année en année, avec un préavis de résiliation de six mois. Les locaux étaient destinés à l'exploitation de salles de cours, de consultation internet et de bureaux. Ils ont été occupés par « B._ », association sans but lucratif qui dispense des cours visant à réinsérer des personnes au chômage. Le 31 mai 2000, A._ SA a résilié le bail pour le 28 février 2001, au motif que les locataires avaient rénové les locaux sans autorisation et occupaient sans droit une surface de 28 mètres carrés sise dans l'immeuble et précédemment loué par un tiers. Les locataires ont contesté la résiliation. En 2002, Z._ SA, société active dans la production, distribution, fabrication et commercialisation d'horlogerie, qui louait également des locaux dans l'immeuble litigieux, a acquis la totalité des actions de A._ SA. Elle a informé les locataires de l'acquisition et de son intention de disposer à terme de l'ensemble de l'immeuble pour exercer son activité. Elle leur a proposé la somme de 250'000 fr. pour qu'ils quittent les locaux, offre qui a été refusée. Entre juillet et octobre 2003, elle a débuté la transformation de l'immeuble en une usine horlogère pour un coût d'environ 8'000'000 francs. Par jugement du 5 novembre 2003, le Tribunal des baux et loyers du canton de Genève a annulé le congé donné par A._ SA aux locataires le 31 mai 2000. Il a retenu que le bail ne permettait pas aux locataires d'occuper la surface litigieuse de 28 mètres carrés, mais que le congé donné pour ce motif était, au vu des circonstances, contraire aux règles de la bonne foi. Le 25 mars 2004, A._ SA et les locataires ont conclu un accord devant la Commision de conciliation du canton de Genève, aux termes duquel les toilettes et le réduit sis à côté des locaux de ces derniers faisaient partie intégrante des locaux loués. Le 22 avril 2004, Z._ SA a fusionné avec A._ SA, dont elle a repris l'actif et le passif. Le 6 juillet 2004, elle a été inscrite au registre foncier comme propriétaire de l'immeuble litigieux. Par avis de résiliation du 28 juillet 2004, Z._ SA (ci-après: la bailleresse) a résilié le bail des locataires pour le 28 février 2005, au motif qu'à cause du développement important de ses activités, elle avait besoin d'occuper rapidement la totalité des surfaces commerciales de l'immeuble. Selon la bailleresse, la libération des locaux loués par les locataires devait permettre la création d'ateliers d'horlogers pour trente nouveaux employés et la pose d'un ascenseur. Elle alléguait notamment ne plus parvenir à satisfaire les commandes des clients, qui se tournaient vers la concurrence. B. Saisie par les locataires, la Commission de conciliation en matière de baux et loyers, par décision du 18 mai 2005, a déclaré le congé valable et accordé une unique prolongation du bail jusqu'au 31 août 2006. Les locataires et la bailleresse ont saisi le Tribunal des baux et loyers, les premiers concluant à ce que le congé soit annulé, subsidiairement à ce qu'une première prolongation de bail de six ans leur soit accordée. Par jugement du 24 mai 2007, le Tribunal a déclaré le congé valable, pris acte de ce que la bailleresse avait accepté une unique prolongation du bail au 31 août 2006 et débouté les parties de toutes autres conclusions. Les locataires ont appelé de ce jugement, concluant principalement à l'annulation du congé, subsidiairement à l'octroi d'une première prolongation de bail de six ans. Par arrêt du 14 janvier 2008, la Chambre d'appel en matière de baux et loyers du canton de Genève a partiellement admis l'appel des locataires et leur a accordé une unique prolongation de bail, valant première et seconde prolongation, au 29 février 2008. C. Les locataires (les recourants) interjettent un recours en matière civile au Tribunal fédéral. Ils concluent à l'annulation du congé, subsidiairement à l'octroi d'une pleine prolongation de bail jusqu'au 29 février 2011, avec suite de dépens. La bailleresse (l'intimée) propose le rejet du recours, sous suite de dépens. 