Faits: A. A.X._, né en 1926, a exercé, à Sion, l'activité d'architecte à titre indépendant jusqu'en 1978, puis dans le cadre de la société anonyme Z._SA. Il a également été actif dans le domaine de la promotion immobilière. La société Y._SA, sise à Sion, dont A.X._ était l'administrateur unique et, ainsi que cela ressort du dossier, un des deux actionnaires, a construit, au début des années 1950, l'immeuble Y._, bâtiment de quatre étages comprenant des locaux commerciaux, des bureaux ainsi que des appartements. A.X._ a collaboré, en sa qualité d'architecte indépendant, à la réalisation de cet immeuble. En 1957, il a acheté ce bien pour 1'000'000 fr., empruntant 830'000 fr. auprès d'une société d'assurance. Z._SA y a par la suite occupé des bureaux, soit une surface d'environ 190 m2 située au 4e étage. B. Le 27 avril 2004, la Commission d'impôt de district pour la Commune de Sion (ci-après: la Commission d'impôt) a informé A.X._ qu'en raison de la cessation, à la fin 2002 et début 2003, de ses activités de promoteur, elle entendait procéder au transfert de l'immeuble Y._ de sa fortune commerciale dans sa fortune privée. Après avoir obtenu divers renseignements, la Commission d'impôt a fixé le bénéfice imposable à 2'002'000 fr. par décision de taxation du 3 février 2005. Ce montant a été soumis à une imposition annuelle séparée en 2003, pour les impôts cantonal et communal. Selon le bordereau du 9 février 2005, l'impôt cantonal était de 140'140 fr. Les 2'002'000 fr. ont été intégrés au revenu imposable ordinaire pour l'impôt fédéral direct de la période fiscale 2003. Par décision sur réclamation du 13 mai 2005, la Commission d'impôt a confirmé les taxations susmentionnées. Elle a rejeté les arguments de A.X._ tendant à démontrer que l'immeuble Y._ avait toujours fait partie de sa fortune privée. La Commission cantonale de recours en matière fiscale du canton du Valais (ci-après: la Commission cantonale de recours), dans sa décision du 24 janvier 2007, notifiée le 4 décembre 2007, a admis le recours de A.X._, entre-temps décédé. Elle a considéré que l'immeuble en cause faisait partie de la fortune privée de l'intéressé et non de sa fortune commerciale. Elle a relevé la longue durée de propriété de l'immeuble soit depuis 1957, le fait que les revenus provenant de la location des locaux, bureaux et appartements de l'immeuble Y._ constituaient la principale source de revenus des époux X._ et que, selon leurs dires, cet immeuble avait été acquis dans un but de prévoyance, que durant toutes ces années l'autorité de taxation n'avait jamais exigé que cet immeuble soit porté dans les comptes relatifs à l'activité indépendante de A.X._ et que ce bien a été soumis à l'impôt sur la fortune en qualité de bien-fonds privé. Finalement, la Commission cantonale de recours a souligné que l'autorité de taxation ne s'était pas manifestée lors de plusieurs changements importants de la situation de l'intéressé, tels que la remise en 1978 de son bureau d'architecte à la société Z._SA, la réduction importante en 1984 puis la cessation de son activité lucrative en 1988 et de l'atteinte de l'âge de la retraite en 1991. Or, ces changements "auraient dû en principe susciter une réaction" de la part de l'autorité de taxation. La Commission cantonale de recours a annulé l'imposition unique du gain en capital au niveau cantonal et communal et a diminué le revenu imposable pour l'impôt fédéral direct de la période fiscale 2003 de 2'002'000 fr., soit de la plus-value réalisée lors du transfert, pour le ramener à 166'889 fr. C. Agissant par la voie du recours en matière de droit public, le Service cantonal des contributions du canton du Valais (ci-après: le Service des contributions) demande au Tribunal fédéral, sous suite de frais, en tant que l'impôt fédéral direct est concerné, d'admettre le recours, de confirmer la décision sur réclamation de la Commission d'impôt du 13 mai 2005 et, en tant que les impôts cantonaux et communaux sont concernés, d'annuler la décision de la Commission cantonale de recours du 24 janvier 2007 et de lui renvoyer la cause pour une nouvelle décision dans le sens des considérants. Les hoirs de feu A.X._ concluent, sous suite de frais et dépens, au rejet du recours pour autant qu'il soit recevable. La Commission cantonale de recours conclut au rejet du recours. L'Administration fédérale des contributions conclut à l'admission du recours. 