Faits: A. X._, domicilié à Y._, a exploité pendant de nombreuses années, en raison individuelle, une entreprise de gypserie, peinture et plâtrerie, transformée en société à responsabilité limitée en 1996, dans le cadre d'une procédure d'assainissement. X._ est de plus propriétaire d'un parc immobilier mis en location et a effectué diverses opérations immobilières, notamment en 2003 et 2004. B. En février 2008, le Service cantonal des contributions (ci-après: le Service cantonal) a procédé à une expertise portant sur les opérations immobilières effectuées par X._ au cours des années 2001 à 2006. Le rapport d'expertise daté du 2 mars 2009 proposait, en ce qui concerne les années 2003 et 2004, les reprises suivantes: No Comptes/postes 2003 - Fr. 2004 - Fr. 1.3. Vente parc n° 11243, Y._ 95'316.-- 1.4. Servitude A._ 1'800.-- 1.6. Vente PPE 5765, Y._ 11'900.-- 11'900.-- 1.8 Vente par. B._, C._ -70'900.-- 1.9. Vente Hôtel D._, E._ 88'800.-- 1.10. Vente parcelle à F._ 1'285.-- 1.12. Promotion G._ 99'789.-- 2.1. Commissions diverses 30'000.-- 2.1. Honoraires gestion immeubles 11'00.-- 13'100.-- 209'190.-- 72'900.-- Procédant aux taxations pour les années 2003 et 2004, la Commission d'impôt de district pour la commune de Y._ a suivi les propositions de l'expert et opéré les reprises précitées, reprises qui ont été acceptées par le contribuable. C. Par écriture du 17 juillet 2009, le Service cantonal a ouvert envers le contribuable une procédure de tentative de soustraction fiscale en matière d'impôts cantonaux et communaux pour les années 2003 et 2004 portant sur le montant des reprises précitées, soit 209'190 fr. pour 2003 et 72'900 fr. pour 2004. Par décision du 22 septembre 2009, le Chef du Service cantonal a arrêté le montant de l'amende aux deux tiers des montants d'impôts éludés, soit 26'262 fr. en matière d'impôts cantonaux et 23'298 fr. en matière d'impôts communaux. Par décision du 6 juillet 2010, le Chef du Département des finances, des institutions et de la santé du canton du Valais (ci-après: le Département cantonal) a partiellement admis une réclamation déposée contre ce prononcé en réduisant les montants d'amende à 25'104 fr. en matière d'impôts cantonaux et à 22'376 fr. en matière d'impôts communaux. Cette réduction provenait de la renonciation à prendre en considération certains éléments dans le cadre de la procédure d'amende, soit: - Servitude A._: Fr. 1'800.-- - Vente de la parcelle de F._: Fr. 1'285.-- - Honoraires de gestion d'immeubles: Fr. 13'100.--. Contre ce prononcé, le contribuable, représenté par la fiduciaire Fidag SA à Sion, a fait appel auprès du Tribunal cantonal du canton du Valais le 3 août 2010 en concluant à l'annulation des amendes. Le 2 février 2011, le Tribunal cantonal a transmis l'affaire à la Commission de recours en matière fiscale du canton du Valais (ci-après: la Commission cantonale) comme objet de sa compétence, au regard de la modification de l'article 208 al. 4 de la loi fiscale valaisanne du 10 mars 1976 (LF; RS/VS 642.1), laquelle a rejeté le recours par décision du 17 juin 2011. La décision a été notifiée au contribuable le 5 octobre 2011. D. Par acte du 31 octobre 2011, X._ a déposé un recours en matière de droit public. Il a principalement conclu à l'annulation des amendes pour tentative de soustraction d'impôts et subsidiairement, à la réduction du montant des amendes. La Commission cantonale, le Département cantonal et l'Administration fédérale des contributions ont conclu au rejet du recours. 