Faits: A. D._ est propriétaire de la parcelle n° 4117 du registre foncier de Peseux, située en zone à bâtir (zone de moyenne densité). Le 18 juin 2008, elle a demandé l'autorisation de construire sur ce bien-fonds un immeuble de trois appartements, dont un triplex dans les étages supérieurs. Ce projet a suscité l'opposition de la propriété par étages du Chemin de l'Orée 7 (ci-après: la PPE Orée 7), propriétaire de la parcelle voisine n° 3623, au motif que la façade du bâtiment projeté serait trop proche de la sortie de secours d'un abri de protection civile, pour laquelle elle bénéficiait d'une servitude. Le projet a également fait l'objet d'oppositions de propriétaires voisins, parmi lesquels figure A._, propriétaire avec son épouse de la parcelle n° 3065. Ils mentionnaient notamment qu'il fallait instruire la question de savoir si la distance entre le projet et le bâtiment des époux A._ était suffisante pour assurer la sortie d'un abri de protection civile. Le 19 mai 2009, la Commune de Peseux a levé les oppositions et délivré le permis de construire requis. Par décision du 10 février 2010, le Conseil d'Etat du canton de Neuchâtel a partielle-ment admis le recours formé par les opposants, pour une imprécision des plans quant à une petite partie de l'ouvrage dépassant le niveau du terrain naturel du côté de la parcelle des époux A._. Les griefs relatifs à la sortie de secours de l'abri de protection civile de la PPE Orée 7 étaient en revanche rejetés. B. Divers opposants - dont A._ ainsi que B._ et C._, tous deux copropriétaires de la PPE Orée 7 - ont recouru contre cette décision auprès de la Cour de droit public du Tribunal cantonal du canton de Neuchâtel. Par arrêt du 16 mars 2011, cette autorité a rejeté le recours. Elle a considéré en substance que l'objet du litige se limitait à la distance de sécurité entre l'immeuble projeté et la sortie de secours de l'abri du bâtiment existant sur la parcelle n° 3623. La dérogation donnée à cet égard par le Service cantonal de la sécurité civile et militaire tenait compte de l'ensemble des circonstances pertinentes et elle ne violait pas les prescriptions en vigueur, de sorte que l'autorisation de construire pouvait être confirmée. C. Agissant par la voie du recours en matière de droit public, A._, B._ et C._ demandent au Tribunal fédéral d'annuler cet arrêt, de refuser le permis de construire et, subsidiairement, de renvoyer la cause à l'instance précédente pour nouvelle décision. Ils invoquent une violation du droit fédéral et se plaignent d'un défaut de motivation. Ils requièrent en outre l'octroi de l'effet suspensif. Le Tribunal cantonal conclut au rejet du recours en se référant aux considérants de son arrêt. Le Conseil d'Etat conclut au rejet du recours dans la mesure de sa recevabilité. Au terme de leurs observations, la Commune de Peseux et D._ concluent au rejet du recours. Les recourants ont présenté des observations complémentaires. D. Par ordonnance du 24 mai 2011, le Président de la Ire Cour de droit public a admis la requête d'effet suspensif. 