Faits: A. A.a Ingénieur de formation, A._ a travaillé dans des banques puis comme agent de change pendant plusieurs décennies. Il est le fondateur et l'animateur de X._ Ltd (ci-après: X._), soit un fonds de placement bahamien spécialisé dans le redressement de sociétés en difficulté et le développement de nouvelles entreprises. En 1999, A._ et X._ sont devenus clients de la Banque Z._ SA, sise dans le canton de Genève (ci-après: Banque Z._). Celle-ci disposait d'une filiale aux Bahamas, soit la Banque B._ Ltd (ci-après: filiale B._), laquelle était gérée par C._, par ailleurs directeur de la société-mère. Le directeur général de cette dernière, D._, siégeait aussi dans le conseil d'administration de la filiale. A.b La Banque Z._, agissant pour le compte d'un groupe international soucieux de garder l'anonymat, avait acquis 32,4 % de parts dans le groupe français E._ SA. En 1998, ladite banque a fait reprendre cet investissement par F._ Ltd (ci-après: le fonds F._), fonds de placement fermé sis aux Bahamas, qu'elle a constitué avec l'assistance de sa filiale B._. Le conseil d'administration du fonds F._ était composé de D._, C._, deux autres collaborateurs de la Banque Z._ et H._, directeur de la filiale B._. Le fonds était capitalisé en deux types d'actions: les actions de management, dotées du droit de vote, et les actions d'investissement (investment shares), dépourvues d'un tel droit. La Banque Z._ possédait la totalité des actions de management. Le fonds F._ détenait indirectement 32,4 % de parts dans E._ SA selon le schéma suivant: le fonds possédait lui-même 100 % du capital de la société luxembourgeoise K._ (ci-après: K._). Cette dernière contrôlait 99,99 % du capital de la société française L._ SA (ci-après: L._). Celle-ci était actionnaire à 99,96 % de la société française M._ SA, laquelle détenait en dernier lieu 32,4 % du capital de E._ SA. A.c En 2000, le groupe anonyme client de la Banque Z._ a souhaité se dessaisir rapidement de son investissement dans le fonds F._. La même année, la Banque Z._ a proposé à A._ d'en racheter des parts sans droit de vote (investment shares). Le prénommé a chargé un conseiller financier indépendant d'étudier cette offre. La Banque Z._ leur a remis un prospectus du 25 juin 1998 intitulé Private Placement Memorandum. Ce document relatif au fonds F._ mentionnait les identités et adresses de ses administrateurs, ainsi que le contrat de gestion des avoirs confiés à la Banque Z._ et les honoraires que celle-ci devait percevoir en fonction de la valeur des actifs du fonds. Dans les mois qui ont suivi, A._ a eu de nombreuses discussions relatives à cette opération avec ladite banque. Le 13 décembre 2001, la Banque Z._ a transmis au conseiller financier de A._, à la requête de ce dernier, un fascicule de 18 pages intitulé Fonds F._, qu'elle avait établi le 20 septembre 2001. Ce document excluait toute garantie de la banque quant à l'exactitude des informations données, à l'objectif présenté et à sa valorisation. Il faisait état d'un retour espéré sur investissement de 67 % l'an sur une période de quatre ans. Un diagramme exposait la construction par laquelle le fonds F._ détenait les actions de E._ SA. Il était enfin précisé ce qui suit: "(...) Les commissions facturées au fonds par la Banque Z._ sont: Commissions de gestion: 1,5 % par an payées trimestriellement Honoraires de performance: 10 % de la performance nette réalisée au-dessus de 6 % l'an Commission de gestion administrative: US$ 25'000 par an Les frais afférents à la gestion des autres sociétés sont: - K._ EUR 30'000 en 2000 - L._ EUR 35'000 en 2000 - M._ EUR 10'000 en 2000 N.B. : M._ a reçu un dividende de EUR 135'161 pour l'exercice 2000. (...)" A ce document était joint un courrier d'accompagnement du 13 décembre 2001, dans lequel la Banque Z._ confirmait que le fonds F._ ne détenait aucun autre investissement que la participation de 32,4 % dans E._ SA et ajoutait que ni le fonds, ni les sous-sociétés n'avaient les moindres dettes ou actifs hormis ceux résultant de la détention des actions M._ ("Neither the Fund F._ nor the underlying companies have any debts or assets other than those resulting from the holding of the M._ shares"). A._ a exposé avoir requis cette lettre de manière à obtenir la certitude qu'il acquérait une société sans dette, soit une enveloppe pure. Le 10 avril 2003, la banque a renouvelé les assurances données dans la lettre précitée. Dans les faits, la comptabilité du fonds F._ pour l'exercice 2001, contrôlée le 9 juillet 2003, laissait apparaître un prêt concédé par la Banque Z._ d'un montant de EUR 329'598 et des intérêts débiteurs de EUR 19'389. Le prêt, dont le montant a encore augmenté, a été remboursé en 2004. A.d A._ et X._ ont acquis des parts sans droit de vote (investment shares) dans le fonds F._ selon la chronologie suivante: s'agissant de A._, - le 31 décembre 2000, 5'100 actions à un prix non indiqué; - le 7 janvier 2002, 19'850 actions pour EUR 592'680,40; - le 2 juillet 2003, 5'135 actions pour EUR 312'629,08; s'agissant de X._, - le 31 décembre 2001, 1 action pour EUR 59,11 - le 31 janvier 2002, 39'583 actions pour EUR 1'179'513,16; - le 31 janvier 2003, 34'500 actions pour EUR 2'001'000; - le 31 juillet 2003, 24'290 actions pour EUR 1'408'820. Au mois de juillet 2004, suite à une cession intervenue entre eux, A._ détenait 19,41 % des parts F._ et X._ 30,7 %. Une tierce personne possédait le solde, soit 49,89 %. A.e Une première tentative de vente du groupe E._ S.A. avait été entreprise en 2003, donnant lieu à de longues négociations infructueuses. Le 5 novembre 2004, le fonds d'investissement N._, qui avait été approché par A._, est devenu actionnaire majoritaire de E._ SA, en contrepartie du paiement de 600 millions d'euros et d'un apport financier apparemment destiné à éviter la faillite de cette société. A la suite de cette opération, X._ a perçu la somme de EUR 6'532'017 entre janvier et juillet 2005. A._ a indiqué avoir encaissé EUR 4'130'080. Le solde de parts que ces deux investisseurs possédaient encore, dont la valeur à fin décembre 2005 était estimée à EUR 1'150'000-EUR 1'244'700, paraît avoir été remboursé. Ils ont ainsi réalisé un rendement de l'ordre de 104 % sur une période d'investissement d'environ 900 jours. A.f Au mois de mars 2005, la Banque Z._ a adressé à A._ les comptes révisés du fonds F._ pour les années 2003 et 2004 et ceux de L._ et M._ SA afférents aux années 2002 et 2003. A._ n'avait formulé jusque-là aucune réclamation. Dans un courrier du 29 juillet 2005, X._ a émis les reproches suivants à l'encontre de la Banque Z._: les frais des sociétés L._ et M._ SA excédaient largement ceux annoncés dans le fascicule de présentation communiqué en décembre 2001; le prix de vente des parts F._ avait été surévalué; l'existence du prêt accordé par la banque au fonds F._ n'avait pas été divulguée au moment de l'acquisition des parts; enfin, les actifs de F._ servant à définir l'étendue des honoraires de la banque avaient été surévalués. La Banque Z._ a rejeté ces griefs. B. B.a Le 9 mai 2007, A._ et X._ ont ouvert action devant le Tribunal de première instance du canton de Genève en concluant à ce que la Banque Z._ [qui est devenue en cours de procédure Banque Y._ SA] soit condamnée à verser EUR 367'785,90 à la demanderesse et EUR 232'531,70 au demandeur. Le 13 novembre 2008, le tribunal a rejeté l'exception d'incompétence soulevée par la défenderesse au motif que le moyen était tardif. Sur le fond, il a rejeté l'action par jugement du 27 mai 2010. B.b A._ et X._ ont appelé de cette décision devant la Chambre civile de la Cour de justice. Ils ont renouvelé les conclusions prises en première instance. Par arrêt du 18 mars 2011, la Cour de justice a confirmé le jugement entrepris. C. A._ et X._ (ci-après: les recourants; le recourant, la recourante) interjettent un recours en matière civile auprès du Tribunal fédéral. A titre principal, ils concluent à la réforme de l'arrêt attaqué, en ce sens que la Banque Y._ SA, anciennement Banque Z._ (ci-après: l'intimée), est condamnée à payer EUR 367'785,90 à la recourante et EUR 232'531,70 au recourant. L'intimée conclut à l'irrecevabilité du recours, subsidiairement à son rejet sur le fond. L'autorité précédente se réfère à son arrêt. A l'issue d'un double échange d'écritures, les recourants ont déposé des observations. 