Faits: Faits: A. X._, médecin, est domiciliée à A._. Elle exerce son activité professionnelle à l'Hôpital B._, situé à 2,1 km de son domicile. En 2003, l'Hôpital B._ lui a versé un salaire de l'ordre de 110'000 fr. Pour cette même période, elle a déclaré un revenu de 231'523 fr. provenant de son activité indépendante, exercée également dans les locaux de l'Hôpital B._. Dans les comptes 2003 joints à sa déclaration d'impôt, l'intéressée a fait figurer des frais de véhicule d'un montant de 16'838 fr. (6'535 fr. de frais de véhicule proprement dits et 10'303 fr. de frais de leasing). A. X._, médecin, est domiciliée à A._. Elle exerce son activité professionnelle à l'Hôpital B._, situé à 2,1 km de son domicile. En 2003, l'Hôpital B._ lui a versé un salaire de l'ordre de 110'000 fr. Pour cette même période, elle a déclaré un revenu de 231'523 fr. provenant de son activité indépendante, exercée également dans les locaux de l'Hôpital B._. Dans les comptes 2003 joints à sa déclaration d'impôt, l'intéressée a fait figurer des frais de véhicule d'un montant de 16'838 fr. (6'535 fr. de frais de véhicule proprement dits et 10'303 fr. de frais de leasing). B. Le 5 novembre 2004, le Service des contributions du canton du Jura (ci-après: le Service des contributions) a notifié à l'intéressée une décision de taxation pour l'impôt fédéral direct et l'impôt cantonal, communal et ecclésiastique (ci-après: l'impôt d'Etat) de la période 2003. Le revenu imposable a été fixé à 305'420 fr. pour l'impôt fédéral direct et à 299'400 fr. pour l'impôt d'Etat. Dans un courrier du 19 novembre 2004, le Service des contributions a indiqué qu'il avait admis un montant de 3'338 fr. pour les frais de véhicule et fixé la part privée à 13'500 fr. X._ a déposé une réclamation contre la décision de taxation du 5 novembre 2004, contestant le calcul de la part privée sur frais de véhicule effectué par le fisc. Par décision sur réclamation du 24 juin 2005, le Service des contributions a confirmé la taxation du 5 novembre 2004. X._ a déposé une réclamation contre la décision de taxation du 5 novembre 2004, contestant le calcul de la part privée sur frais de véhicule effectué par le fisc. Par décision sur réclamation du 24 juin 2005, le Service des contributions a confirmé la taxation du 5 novembre 2004. C. Le 22 décembre 2005, la Commission cantonale des recours du canton du Jura (ci-après: la Commission cantonale) a admis le recours de X._ et a modifié la décision sur réclamation du 24 juin 2005, la part privée sur frais de véhicule étant fixée à 8'419 fr. en lieu et place de 3'338 fr. (recte 13'500 fr.). C. Le 22 décembre 2005, la Commission cantonale des recours du canton du Jura (ci-après: la Commission cantonale) a admis le recours de X._ et a modifié la décision sur réclamation du 24 juin 2005, la part privée sur frais de véhicule étant fixée à 8'419 fr. en lieu et place de 3'338 fr. (recte 13'500 fr.). D. Le 5 avril 2006, la Chambre administrative du Tribunal cantonal du canton du Jura (ci-après: le Tribunal cantonal) a rejeté le recours interjeté par le Service des contributions contre la décision de la Commission cantonale du 22 décembre 2005 et a confirmé la décision attaquée en ce qui concerne l'impôt fédéral direct et l'impôt d'Etat, fixant la déduction admise au titre de frais de véhicule à 8'419 fr. Le Tribunal cantonal a retenu en substance que, vu que X._ réalisait les deux tiers de son revenu en tant qu'indépendante, il se justifiait de reconnaître à son véhicule un caractère professionnel prépondérant pour rechercher les frais justifiés par l'usage professionnel. Il a approuvé le calcul de la Commission cantonale dans son résultat, estimant toutefois qu'il n'était pas nécessaire de calculer le montant exact à prendre en compte à titre de déduction pour les frais de véhicule. La Commission cantonale avait porté le montant de la déduction de 3'250 fr. (recte: 3'338 fr.) à 8'419 fr., ce qui représentait une augmentation de 5'169 fr. et correspondait environ à la moitié des frais de leasing; par conséquent, elle n'avait pas abusé de son pouvoir d'appréciation. En outre, le Tribunal cantonal a relevé que, contrairement à ce qu'avait retenu la Commission cantonale, l'intéressée ne pouvait pas prétendre à des déductions pour des frais tels que ceux liés à la participation à des congrès, car elle avait déjà fait valoir un montant supérieur à 11'900 fr. à ce titre; cette question n'avait cependant pas d'influence sur le résultat auquel il était parvenu. D. Le 5 avril 2006, la Chambre administrative du Tribunal cantonal du canton du Jura (ci-après: le Tribunal cantonal) a rejeté le recours interjeté par le Service des contributions contre la décision de la Commission cantonale du 22 décembre 2005 et a confirmé la décision attaquée en ce qui concerne l'impôt fédéral direct et l'impôt d'Etat, fixant la déduction admise au titre de frais de véhicule à 8'419 fr. Le Tribunal cantonal a retenu en substance que, vu que X._ réalisait les deux tiers de son revenu en tant qu'indépendante, il se justifiait de reconnaître à son véhicule un caractère professionnel prépondérant pour rechercher les frais justifiés par l'usage professionnel. Il a approuvé le calcul de la Commission cantonale dans son résultat, estimant toutefois qu'il n'était pas nécessaire de calculer le montant exact à prendre en compte à titre de déduction pour les frais de véhicule. La Commission cantonale avait porté le montant de la déduction de 3'250 fr. (recte: 3'338 fr.) à 8'419 fr., ce qui représentait une augmentation de 5'169 fr. et correspondait environ à la moitié des frais de leasing; par conséquent, elle n'avait pas abusé de son pouvoir d'appréciation. En outre, le Tribunal cantonal a relevé que, contrairement à ce qu'avait retenu la Commission cantonale, l'intéressée ne pouvait pas prétendre à des déductions pour des frais tels que ceux liés à la participation à des congrès, car elle avait déjà fait valoir un montant supérieur à 11'900 fr. à ce titre; cette question n'avait cependant pas d'influence sur le résultat auquel il était parvenu. E. Le Service des contributions a interjeté un recours de droit administratif au Tribunal fédéral contre l'arrêt rendu le 5 avril 2006 par le Tribunal cantonal. S'agissant de l'impôt fédéral direct, il conclut, sous suite de frais, à ce que l'arrêt attaqué soit annulé, la part privée sur frais de véhicule fixée à 13'500 fr. en lieu et place de 8'419 fr. et la décision sur réclamation du 24 juin 2005 confirmée, le revenu imposable de X._ étant fixé à 305'420 fr. pour l'année fiscale 2003. Quant à l'impôt d'Etat, le recourant conclut à l'annulation de l'arrêt attaqué et au renvoi de l'affaire à l'autorité inférieure pour nouvelle décision dans le sens des considérants. Le Service des contributions se plaint principalement de ce que l'autorité intimée a abusé de son pouvoir d'appréciation en matière de déduction des frais de véhicule et de ce que l'arrêt attaqué est arbitraire (cf. art. 9 Cst.). Il fait également valoir la violation de son droit d'être entendu (cf. art. 29 al. 2 Cst.). Le Tribunal cantonal conclut au rejet du recours dans la mesure où il est recevable. X._ demande implicitement le rejet du recours. L'Administration fédérale des contributions a renoncé à formuler des observations sur le recours. 