Faits: A. A.a Titulaire d'un diplôme yougoslave d'infirmière en soins généraux délivré en 1968, X._ est autorisée à pratiquer dans le canton de Vaud en cette qualité. En novembre 2004, le Service de protection de la jeunesse du canton de Vaud (ci-après: le Service cantonal) l'a autorisée à ouvrir, à A._ (VD), une garderie d'enfants à l'enseigne "..." (ci-après: la garderie n° 1). Par ailleurs, X._ a sollicité en février 2007 l'autorisation d'ouvrir, à B._ (VD), une garderie à l'enseigne "..." (ci-après: la garderie n° 2), que le Service cantonal a accordée pour une durée limitée provisoire à compter du 1er mars 2007. A.b Dès l'année 2007, les garderies nos 1 et 2 ont fait l'objet de plusieurs plaintes et rapports défavorables. Ainsi, à la suite de dénonciations reçues en 2007 et critiquant la prise en charge des enfants au sein des deux garderies, le Service cantonal a procédé à des visites de surveillance impromptues. En mai 2007, il a constaté que le personnel (qualifié) et l'encadrement étaient insuffisants compte tenu du nombre et de l'âge des enfants présents. Il a adressé un avertissement à X._ et lui a demandé des informations. Face à une remise incomplète des documents requis et à de nouvelles critiques émanant de parents, le Service cantonal a, le 5 juillet 2007, mis en demeure X._ de remédier au manque de personnel et d'améliorer le concept pédagogique de la garderie n° 1 jusqu'à la rentrée scolaire 2007. Lors d'une visite de contrôle, effectuée en janvier 2008, le Service cantonal a constaté certaines améliorations; par courrier du 21 janvier 2008, il a néanmoins "maintenu" sa mise en demeure compte tenu de la persistance d'un taux d'encadrement insuffisant en personnel. A.c En février 2008, le Service cantonal a ordonné l'ouverture d'une enquête approfondie sur le fonctionnement des institutions gérées par X._, dans le cadre de laquelle des visites de surveillance ont été effectuées et 19 parents ou couples de parents ainsi que 24 membres du personnel ont été questionnés. Plusieurs personnes interrogées ont entre autres reproché à X._ d'avoir infligé des châtiments corporels à ses propres petits-enfants qui fréquentaient aussi la garderie, voire à d'autres enfants désobéissants ou en pleurs avec lesquels elle avait perdu patience; d'avoir fait preuve de favoritisme et d'avoir tenu des propos dénigrants envers certains enfants. En outre, elle a été critiquée pour avoir imposé des tâches administratives et ménagères aux éducateurs tandis que ceux-ci étaient chargés d'encadrer les enfants, ainsi que d'être à l'origine, de par son comportement et son style de direction, des fréquents changements et du manque de personnel (qualifié). A.d Après avoir constaté certaines améliorations relatives à l'encadrement au sein de la garderie n° 2, le Service cantonal a délivré à X._ une autorisation temporaire en août 2008. Lors d'une nouvelle visite effectuée en septembre 2008 au sein de la garderie n° 1, le Service cantonal a conclu au non-respect par X._ de l'autorisation d'exploiter "en ce qui concerne les âges des enfants (6 bébés), du cadre de référence en ce qui concerne le taux d'encadrement des enfants les plus jeunes, ajoutés au groupe des enfants plus âgés, ainsi que l'absence de personnel au bénéfice des titres professionnels requis". Dans un rapport du 10 octobre 2008, le Service cantonal a entre autres retenu que X._ avait des difficultés à gérer son personnel et à garantir une stabilité au sein des structures, que certaines de ses attitudes et recommandations pédagogiques étaient inadéquates, qu'elle n'avait fréquemment pas respecté son devoir d'information et qu'il lui était, depuis de nombreux mois, difficile de respecter les directives en matière d'accueil collectif de jour, notamment s'agissant du taux d'encadrement. Le Service cantonal a mis X._ en demeure, sous peine de retrait des autorisations d'exploitation, de remédier aux manquements relevés en modifiant l'organisation interne des deux institutions et en désignant, d'ici à fin février 2009, une responsable pédagogique pour chacune d'elles, de sorte à n'exercer elle-même plus que la fonction d'exploitante. Tout en contestant les constats du Service cantonal, l'intéressée a déclaré qu'elle exécuterait ces mesures "par gain de paix". Les garderies nos 1 et 2 ont fait l'objet d'autres visites de surveillance, dont certaines ont révélé que les critères du nombre d'enfants autorisé et du taux d'encadrement par rapport à l'âge des enfants n'étaient pas respectés. En outre, un manque de personnel qualifié et des changements de personnel fréquents ont été relevés. A la suite de mesures prises dans les garderies, notamment l'engagement d'une directrice pédagogique, le Service cantonal a levé la mise en demeure du 10 octobre 2008 en date du 3 avril 2009 et a délivré de nouvelles autorisations d'exploiter, en les conditionnant notamment à la transmission de grilles-horaires nominatives et détaillées de l'équipe éducative, à la clarification de la répartition des tâches et responsabilités entre la directrice éducative et l'exploitante administrative ainsi qu'à la mise en conformité de l'équipe d'encadrement. Des contrôles effectués en automne et hiver 2009 dans la garderie n° 1 ont permis de constater une certaine amélioration de la situation, en particulier s'agissant de l'encadrement éducatif. Toutefois, le Service cantonal a, au cours de certaines de ses visites, relevé des défaillances persistantes, notamment par rapport à l'encadrement en personnel qualifié, à l'organisation inadéquate de l'espace et à la présence de bébés "visiblement perturbés"; il a également retenu des départs du personnel, en particulier la démission de la directrice pédagogique de la garderie n° 1. B. Par décision du 23 novembre 2009, le Service cantonal a retiré les autorisations d'exploiter les garderies nos 1 et 2, ordonnant leur fermeture avec effet au 31 mars 2010, en raison de la démission de la directrice pédagogique, du non-respect des conditions auxquelles étaient soumises les autorisations, et des changements continuels de personnel au sein de l'équipe éducative. Lors de sept visites de surveillance effectuées de janvier à mai 2010 dans les garderies nos 1 et 2, le Service cantonal a relevé des tensions et empiètements de compétences entre la nouvelle directrice pédagogique, entrée en fonction en janvier 2010, et X._, ayant conduit au licenciement suivi du réengagement de ladite directrice. Hormis quelques améliorations (par exemple, efforts d'aménagement des locaux), le Service cantonal a notamment relevé un manque de personnel encadrant qualifié, la poursuite des fluctuations en personnel, l'absence de direction pédagogique dans la garderie n° 2 et un dépassement du nombre autorisé d'enfants dans ce dernier établissement. Saisie d'un recours contre la décision du 20 novembre 2009, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté celui-ci par arrêt du 16 janvier 2012, a confirmé la décision de retrait des autorisations d'exploiter précitée et a imparti à X._ un nouveau délai au 30 avril 2012 pour fermer les garderies nos 1 et 2. C. Le 16 février 2012, X._ a interjeté un recours en matière de droit public et un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre l'arrêt du Tribunal cantonal du 16 janvier 2012. Dans chacun de ses deux recours, elle conclut à la réforme de l'arrêt entrepris en ce sens que les autorisations d'exploiter les deux garderies ne soient pas retirées, respectivement lui soient délivrées, ces garderies n'étant alors pas fermées; enfin, elle conclut à ce que l'arrêt attaqué soit annulé, "une nouvelle décision étant rendue selon les considérants, ensuite notamment de nouvelles mesures d'instruction". Le Tribunal cantonal et l'Office fédéral de la justice ont renoncé à se déterminer. Le Service cantonal a conclu au rejet du recours et à la confirmation de sa décision du 20 novembre 2009. La recourante s'est encore déterminée par écrit le 27 avril 2012 et a persisté dans ses conclusions. Par ordonnance présidentielle du 15 mars 2012, le Tribunal fédéral a accordé l'effet suspensif aux recours jusqu'au 30 juin 2012. 