Faits: A. Par arrêté du 8 novembre 2005, le Gouvernement de la République et canton du Jura (ci-après: le Gouvernement) a accordé à la société Cinémathèque Jean-Marie Boursicot [Suisse] Sàrl (ci-après: la Société) un privilège fiscal sous la forme d'une "exonération à raison de 90% de l'impôt sur le bénéfice et de l'impôt sur le capital dus à l'Etat, à la commune et aux Eglises reconnues". L'exonération était prévue pour une durée de cinq ans, débutant dès la création de l'entreprise en juillet 2005 et échéant à la fin de l'année fiscale 2009. L'octroi de l'exonération était subordonné au "caractère permanent et durable" de l'entreprise; il était prévu que si elle transférait son siège ou son activité durant ou après la période du privilège, celui-ci était révocable avec effet rétroactif conformément aux dispositions applicables en matière de prescription du rappel d'impôt. Dans la nuit du 8 au 9 août 2007, les locaux du bâtiment dit "Technopôle" à Porrentruy (JU), abritant la Société et sa cinémathèque d'environ 850'000 films publicitaires, ont été inondés, ce qui a endommagé ladite collection. L'enquête pénale ouverte notamment pour cause d'inondation s'est soldée par une ordonnance de classement du Ministère public jurassien du 26 avril 2010, l'inondation ne pouvant être imputée à un défaut de construction ou de remblayage du terrain. La Société a transféré son siège à Crissier (VD) selon la Feuille officielle suisse du commerce du 7 juillet 2008 (FOSC n° 129). B. En raison du transfert du siège de la Société vers le canton de Vaud, le Gouvernement a, par arrêté du 1er septembre 2009, révoqué le privilège accordé à la Société pour les années fiscales 2005 à 2009, ce rétroactivement s'agissant des années fiscales 2005 à 2008. Il a chargé le Service des contributions du canton d'introduire la procédure de rappel d'impôt en vue de récupérer les impôts non perçus. Par arrêt du 21 octobre 2010, la Chambre administrative du Tribunal cantonal de la République et canton du Jura (ci-après: le Tribunal cantonal) a rejeté le recours que la Société avait interjeté contre l'arrêté du 1er septembre 2009, en confirmant ce dernier. C. Agissant par la voie du recours en matière de droit public, la Société demande au Tribunal fédéral, principalement, d'admettre son recours et d'annuler l'arrêt du Tribunal cantonal du 21 octobre 2010 ainsi que l'arrêté du Gouvernement du 1er septembre 2009; subsidiairement, d'admettre son recours, d'annuler l'arrêt du Tribunal cantonal et de renvoyer le dossier "à l'autorité cantonale pour nouvelle décision dans le sens des considérants". Le Tribunal cantonal et le Gouvernement concluent au rejet du recours et à la confirmation de l'arrêt querellé, le Gouvernement renvoyant en outre à ses déterminations antérieures en procédure cantonale. 