Faits: A. A.a Les époux X._ sont locataires, depuis le 1er mars 1988, sur la base de deux contrats distincts, d'un appartement de quatre pièces, situé au huitième étage d'un immeuble sis en ville de Genève, et d'une place de parking se trouvant au sous-sol du même immeuble. Les loyers des deux choses louées, qui sont demeurés inchangés, ont été fixés, respectivement, à 3'300 fr. et 180 fr. par mois. Conclus pour une durée initiale de deux ans, les deux baux ont ensuite été reconduits tacitement d'année en année. Au printemps 2001, Y._, né le 22 avril 1940, a manifesté l'intention d'acquérir des certificats d'actions de la bailleresse, la SI A._, à la propriété desquels est attaché le droit de louer l'appartement précité, avec sa place de parking, et un studio situé au premier étage de l'immeuble en question. En date du 18 juin 2001, le Département genevois de l'aménagement, de l'équipement et du logement a autorisé cette aliénation pour le prix global de 760'000 fr. A.b Par avis officiels du 24 janvier 2005, notifiés séparément à chacun des époux X._, Y._ a résilié les baux relatifs à l'appartement et à la place de parking pour le 31 décembre 2005. Les formules ad hoc portaient la mention suivante: "Le propriétaire de l'unité souhaite récupérer son bien pour son usage personnel". Saisie par les locataires, la Commission de conciliation en matière de baux et loyers du canton de Genève (ci-après: la Commission de conciliation), statuant le 19 décembre 2005, a déclaré les congés valables, mais avec effet au 28 février 2006 pour tenir compte de l'échéance fixée dans les contrats de bail; elle a accordé aux époux X._ une prolongation des baux de quatre ans, soit jusqu'au 28 février 2010. B. Le 19 janvier 2006, Y._ a saisi le Tribunal des baux et loyers d'une requête visant à exclure toute prolongation des baux litigieux. A l'appui de cette requête, le bailleur a fait valoir, en substance, que la maison individuelle dont il est propriétaire à ... est devenue trop grande pour lui, étant donné que, depuis son divorce, prononcé en 2003, seul l'un de ses trois enfants habite encore avec lui. Il a ajouté que, ayant pris sa retraite, il lui est difficile de pourvoir à l'entretien de ses trois enfants tout en conservant l'ancienne maison familiale de .... Dans leur réponse du 27 avril 2006, les locataires, qui n'avaient pas saisi eux-mêmes l'autorité judiciaire compétente dans les trente jours dès la notification de la décision prise par la Commission de conciliation, ont conclu principalement à l'annulation des résiliations de leurs baux et, subsidiairement, à ce que ceux-ci soient prolongés jusqu'au 1er mars 2010. Ils ont également requis l'ouverture d'enquêtes. Le Tribunal des baux et loyers a ordonné la comparution personnelle des parties, mais n'a pas procédé à d'autres mesures d'instruction. Par jugement du 18 juin 2007, il a déclaré valables les congés contestés et accordé aux locataires une unique prolongation de leurs baux d'une durée de trois ans, échéant le 28 février 2009. Les époux X._ ont appelé de ce jugement, reprenant leurs précédentes conclusions. Ils contestaient la réalité du motif avancé par le bailleur pour justifier les congés incriminés et déploraient, en outre, l'absence de toute mesure probatoire devant les premiers juges. Y._ a conclu à la confirmation du jugement entrepris. Par arrêt du 4 février 2008, la Chambre d'appel en matière de baux et loyers du canton de Genève a rejeté l'appel et confirmé le jugement de première instance. C. Agissant par la voie du recours en matière civile, les époux X._ invitent le Tribunal fédéral à annuler les congés qui leur ont été donnés par Y._ et, subsidiairement, à renvoyer la cause aux juges précédents pour complément d'instruction et nouvelle décision. A titre très subsidiaire, les recourants requièrent une prolongation de leurs baux d'une durée de quatre ans, échéant le 28 février 2010. L'intimé conclut au rejet du recours, alors que la Chambre d'appel se réfère aux motifs énoncés dans son arrêt. Par ordonnance du 15 avril 2008, la demande d'effet suspensif formulée par les recourants a été rejetée. 