Faits: A. Le 12 mars 2001, X._, ressortissant géorgien, domicilié à l'étranger, a requis de la Commission foncière, Section II, du canton de Vaud, (ci-après: la Commission foncière) l'autorisation d'acquérir la parcelle n° 3698 du cadastre de la commune de A._, d'une surface de 1'001 m2. Il projetait d'y bâtir une villa d'un étage sur rez, avec sous-sol habitable, à l'exception de la buanderie-chaufferie, d'une surface totale de 215,5 m2, qui serait affectée à un logement de vacances. Par décision du 23 mars 2001, la Commission foncière a rejeté la requête au motif que la surface habitable de la villa projetée atteignait plus du double de la surface maximale autorisée. B. Le 22 mai 2001, X._ a promis-cédé à ses deux filles Y._ et Z._, nées le 31 janvier 1978, une part de 56% de la parcelle n° 3698. Le même jour, la Commission foncière a été saisie de deux requêtes distinctes visant à l'acquisition de la parcelle n° 3698 en copropriété afin d'y construire une villa de deux appartements de vacances : d'une part, celle de X._ pour le lot n° 2, d'une surface de 123,62 m2 et, d'autre part, celle de Y._ et Z._ pour le lot n° 1, d'une surface de 156,08 m2. Le 27 juillet 2001, la Commission foncière a délivré les autorisations requises, en les assortissant en particulier de la charge suivante: "Obligation de constituer la propriété par étages envisagée, en deux lots de 56/100 et 44/100, l'acte de constitution de PPE devant être produit (...) avant le 31.12.2002". Le 8 octobre 2001, la Commission foncière a été saisie d'une requête d'approbation des plans de la villa, établis le 21 septembre 2001. Cette autorité a constaté que les plans présentaient des modifications importantes par rapport au projet initial en ce qui concernait la répartition des locaux : la surface du lot n° 1 était ainsi portée à 157 m2 et celle du lot n° 2 ramenée à 93,35 m2, mais les deux appartements demeuraient distincts, sans communication interne, et chacun était doté de son propre accès, l'un au niveau du rez-de-chaussée, l'autre au premier étage. Le sous-sol, sans communication directe avec les appartements, avait aussi son propre accès, par l'extérieur; il comprenait les parties communes aux deux lots: buanderie, chauffage, douche, sauna, jacuzzi et salle de gymnastique. Par décision du 18 octobre 2001, la Commission foncière a approuvé les plans et maintenu les autorisations délivrées le 27 juillet 2001 pour le surplus. Les plans déposés lors de la mise à l'enquête publique du 16 octobre au 5 novembre 2001 divergeaient de ceux approuvés par la Commission foncière en ce sens que le hall d'entrée du lot n° 1 a été agrandi vers l'extérieur, au détriment de l'entrée indépendante du sous-sol qui communiquait dès lors directement avec l'appartement n° 1. Le 13 décembre 2001, la Municipalité de A._ a délivré le permis de construire sur la base de ces plans. La propriété par étages a été constituée le 14 juin 2002. Les plans annexés à l'acte constitutif et déposés au Registre foncier correspondaient à ceux approuvés le 18 octobre 2001 par la Commission foncière. X._ détenait une part de 44% et une part de 28% était attribuée à chacune des filles Y._ et Z._. La construction de la villa a été achevée en août 2002 et la Municipalité de A._ a délivré le permis d'habiter le 23 juin 2005, tout en constatant que les deux appartements étaient reliés entre eux . C. A la suite d'une perquisition effectuée dans la villa le 20 juin 2008, l'Office fédéral de la police a constaté que celle-ci ne comprenait qu'un seul logement, sans séparation particulière. Les plans saisis, mis à jour le 20 janvier 2005, montraient aussi que le mur séparant les deux appartements au premier étage avait été percé d'une porte de communication. Il est apparu également que les parties communes au sous-sol étaient accessibles depuis le rez-de-chaussée, soit depuis le lot 1 et que, depuis le lot 2, on ne pouvait y accéder qu'en empruntant la porte communicante au premier étage et en passant par le lot 1. La Commission foncière a été saisie d'une demande de révocation des autorisations du 27 juillet 2001 par le Département de l'économie de l'Etat de Vaud. Elle a procédé à une inspection locale, le 4 septembre 2009, et constaté que la construction était conforme aux plans modifiés au 20 janvier 2005. Par décision prise dans sa séance du 18 septembre 2009 et notifiée le 2 octobre 2009, la Commission foncière a renoncé à révoquer les autorisations du 27 juillet 2001 (ch. 1). Elle a toutefois constaté que les plans déposés au Registre foncier ne correspondaient pas à la construction réalisée (ch. 2) et a dès lors ordonné aux copropriétaires, d'ici au 31 mai 2010, de (ch. 3 et 4): "- canceler définitivement la porte de communication existant au premier étage entre les deux lots mentionnés sous chiffre 2, la porte en cause devant être supprimée et son ouverture totalement bouchée; - fermer l'accès du lot n° 1 au sous-sol par une porte d'entrée usuelle, soit pouvant être fermée à clef, afin d'individualiser ce lot par rapport aux parties communes; - créer un accès propre du lot 2 aux parties communes sises au sous-sol, par exemple par la construction d'un escalier extérieur à l'est du bâtiment, sorte de pendant de l'escalier existant à l'ouest et desservant le lot 1." Il était également demandé aux intéressés de présenter à la Commission foncière les plans intégrant les travaux ordonnés "pour approbation par une nouvelle décision et ce de telle façon que le délai au 31 mai 2010 puisse être respecté" (ch. 5), de produire une attestation de la Municipalité de A._ confirmant la réalisation des travaux conformément aux plans approuvés, d'ici au 30 juin 2010 (ch. 6), enfin, de produire au Registre foncier les plans ainsi approuvés dans un délai au 31 août 2010 (ch. 7). X._, ainsi que Y._ et Z._, ont recouru contre cette décision auprès du Tribunal cantonal vaudois (Cour de droit administratif et public) et ont conclu principalement à l'annulation des mesures ordonnées. D. Par arrêt du 29 avril 2011, le Tribunal cantonal a rejeté le recours et confirmé la décision de la Commission foncière du 2 octobre 2009. Les juges cantonaux ont tout d'abord retenu que la procédure écrite était suffisante pour examiner les griefs soulevés soit, principalement, la violation du principe de la bonne foi. Ils ont ensuite estimé que ce grief était mal fondé dans la mesure où l'autorité intimée n'avait pas eu connaissance des modifications des plans opérées par les recourants, ni du permis d'habiter délivré par la Municipalité de A._ le 23 juin 2005. Le manque de coordination entre la procédure d'autorisation d'acquérir un logement de vacances et la procédure de permis de construire n'avait au demeurant pas pour effet de lever les conditions posées par la Commission foncière et les arguments tirés des règles de la propriété par étages étaient sans pertinence, dès lors que les mesures ordonnées étaient proportionnées et tendaient uniquement à remédier à une violation de la loi fédérale sur l'acquisition d'immeubles par des personnes à l'étranger du 16 décembre 1983 (LFAIE; RS 211.412.41). Le Tribunal cantonal a enfin relevé que la décision attaquée devait être considérée comme une mise en demeure dont le non-respect pourrait alors entraîner une révocation. E. X._, ainsi que Y._ et Z._, forment un recours en matière de droit public auprès du Tribunal fédéral et concluent, avec suite de frais et dépens, principalement à la réformation de l'arrêt du Tribunal cantonal du 29 avril, en ce sens qu'aucune mesure ne leur est ordonnée et, subsidiairement à l'annulation dudit arrêt, la cause étant renvoyée à l'autorité intimée pour nouvelle décision dans le sens des considérants. Le Tribunal cantonal a renoncé à se déterminer. La Commission foncière a déposé des déterminations au terme desquelles elle conclut au rejet du recours. Les recourants ont répliqué et ont maintenu leur conclusions. L'Office fédéral de la justice se réfère à l'arrêt attaqué et propose de rejeter le recours. F. Par ordonnance présidentielle du 29 juin 2011, l'effet suspensif a été accordé au recours. 