Faits: A. X._ SA est une société anonyme inscrite au registre du commerce du canton de Genève depuis le 21 mars 2007. Elle a pour but principalement de mettre en place et favoriser les cautionnements de loyers, à la demande de locataires, en faveur de leurs bailleurs. Concrètement, elle offre aux futurs titulaires d'un bail à loyer à usage privé de compléter une demande de cautionnement, moyennant le paiement d'une cotisation d'inscription de 230 fr. et d'une cotisation ultérieure annuelle de 25 fr. plus 5 % du montant de la garantie de loyer exigée par le bailleur. Elle établit ensuite une attestation de cautionnement à l'intention du bailleur. X._ SA s'engage à payer, dans le cadre du contrat de bail et de la limite maximale de la garantie de loyer indiquée sur l'attestation de cautionnement, toute dette contractée par le locataire à l'égard du bailleur. Le 15 octobre 2007, l'Office fédéral des assurances privées (ci-après : l'OFAP) est intervenu auprès de X._ SA pour relever qu'elle exerçait une activité en matière d'assurance sujette à agrément, dès lors qu'elle proposait, par l'intermédiaire de son site Internet, la conclusion de contrats d'assurance-cautionnement. Il lui a suggéré différentes solutions qui lui permettraient d'adapter son activité aux exigences de la législation en matière de surveillance des assurances. X._ SA a contesté être soumise à la surveillance de l'OFAP, mais a néanmoins fait part de son intention de se conformer aux exigences légales par le biais d'un contrat de partenariat avec une assurance, afin de démontrer sa bonne foi et son esprit de collaboration. Les contacts noués à cet effet, notamment avec la compagnie d'assurances A._ n'ont toutefois pas abouti à la conclusion d'un contrat agréé par l'autorité fédérale. B. Par décision du 27 avril 2009, l'Autorité fédérale de surveillance des marchés financiers FINMA (ci-après: la FINMA), qui a remplacé l'OFAP depuis le 1er janvier 2009, a constaté que X._ SA exerçait une activité en matière d'assurance, en violation de la loi fédérale du 17 décembre 2004 sur la surveillance des entreprises d'assurance (loi sur la surveillance des assurances; LSA; RS 961.01) (ch. 1 du dispositif) et a prononcé sa dissolution et son entrée en liquidation avec effet au 1er août 2009, selon les modalités fixées aux ch. 2 à 8 du dispositif de cette décision. A titre de mesures provisoires immédiatement exécutoires, elle a fait interdiction à X._ SA d'exercer une activité d'entreprise d'assurance et de faire de la publicité à cet effet; elle a en outre nommé deux chargés d'enquête ayant pour mission d'agir en lieu et place des organes de la société, de veiller à ce que X._ SA ne conclue pas de nouveaux contrats, d'autoriser tous les actes juridiques de la société et de prendre toutes les mesures conservatoires nécessaires. Elle a également bloqué l'ensemble des comptes et dépôts au nom de X._ SA, le pouvoir d'en disposer étant confié aux seuls chargés d'enquête (ch. 9 à 18 du dispositif de la décision en cause). C. Le 30 avril 2009, X._ SA a recouru contre la décision précitée auprès du Tribunal administratif fédéral. Elle a persisté à soutenir qu'elle n'exerçait aucune activité d'assurance. Subsidiairement, elle a fait valoir que la FINMA aurait dû lui impartir un délai pour remédier aux lacunes du contrat prévu avec la compagnie d'assurances A._. Elle s'est également plainte de la violation des principes de l'interdiction de l'arbitraire, de la liberté économique et du droit d'être entendu. Elle a assorti son recours d'une requête urgente de restitution de l'effet suspensif. Par décisions incidentes des 4 mai, 25 juin et 28 juillet 2009, le juge instructeur du Tribunal administratif fédéral a d'abord rejeté la requête de restitution de l'effet suspensif à titre de mesure provisionnelle urgente, puis a rejeté ladite requête s'agissant des mesures immédiatement exécutoires au sens des ch. 9 à 18 du dispositif de la décision attaquée et a finalement restitué l'effet suspensif au recours en ce qui concerne la dissolution et la liquidation de la société selon les ch. 2 à 8 du dispositif de ladite décision. Le 29 juillet 2009, X._ SA a conclu un contrat de coopération et un contrat collectif d'assurance-cautionnement de garantie de loyer avec la Société B._, Compagnie d'Assurances SA (ci-après : la Société B._ Assurances). Prenant acte de cet accord, la FINMA a, par décisions des 12 et 13 août 2009, levé les mesures prononcées aux ch. 2 à 18 du dispositif de sa décision du 27 avril 2009 et a astreint X._ SA, sous la menace de l'amende, à l'informer en cas de résiliation ou de non-prolongation du contrat conclu avec la Société B._. Le 18 septembre 2009, X._ SA a modifié les conclusions de son recours du 30 avril 2009 dans le sens de l'annulation du seul ch. 1 du dispositif de la décision de la FINMA du 27 avril 2009. Par arrêt du 25 mars 2010, le Tribunal administratif fédéral, limitant son examen à la seule question encore litigieuse, soit celle de déterminer si les prestations de X._ SA relevaient ou non de l'assurance, a rejeté le recours. Il a considéré, en substance, que le droit de X._ SA d'être entendue avait été respecté, que les activités déployées par la société présentaient les cinq éléments caractéristiques d'une assurance, que les contrats qu'elle concluait ne constituaient ni des cautionnements, ni des reprises cumulatives de dettes, que le principe de la liberté économique n'avait pas été violé et que la FINMA n'avait pas adopté un comportement contraire à la bonne foi ni arbitraire. D. Agissant par la voie du recours en matière de droit public, X._ SA demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt rendu par le Tribunal administratif fédéral le 25 mars 2010, ainsi que le ch. 1 du dispositif de la décision de la FINMA du 27 avril 2009. Elle fait valoir que son activité est un cautionnement simple ne nécessitant pas la protection offerte par la LSA, que les critères de définition de l'activité d'assurance ne sont pas remplis et que les caractéristiques du contrat d'assurance font défaut. Le Tribunal administratif fédéral renonce à déposer une réponse. La FINMA conclut au rejet du recours. 