Faits: A. Citoyen russe né le 10 juin 1989, A._ est titulaire depuis 1999 d'une autorisation de séjour en Suisse, où il réside avec ses parents à Anzère (Valais). Le 21 juin 2010, à l'occasion d'un contrôle effectué par la police cantonale vaudoise sur l'autoroute A9, il a présenté aux agents un permis de conduire russe délivré le 29 octobre 2008 pour la catégorie B. Ce document a été saisi par la police. Le 17 janvier 2011, le Tribunal de police de l'arrondissement de l'Est vaudois a, sur appel, libéré A._ des fins de la poursuite pénale engagée contre lui pour avoir conduit avec un permis étranger alors qu'il devait se procurer un permis suisse. B. Par décision du 31 août 2010, le Service de la circulation routière et de la navigation du canton du Valais (ci-après: le SCN) a refusé d'échanger le permis de conduire russe de A._ et lui a interdit de faire usage de son permis étranger sur le territoire suisse. Le recours que l'intéressé a interjeté auprès du Conseil d'Etat contre cette décision a été rejeté le 17 août 2011. Par arrêt du 23 décembre 2011, la Cour de droit public du Tribunal cantonal du Valais a rejeté le recours formé en personne par A._ contre la décision du Conseil d'Etat. En substance, les juges cantonaux ont considéré que A._ avait obtenu son permis de conduire russe alors qu'il était domicilié en Suisse; dans ces circonstances, la validité de ce permis ne pouvait être admise sur le territoire suisse et, partant, les conditions d'échange de ce document contre un permis de conduire suisse n'étaient pas réunies. C. A._ recourt en personne par acte du 6 février 2012 auprès du Tribunal fédéral. Il conclut à la restitution de son permis de conduire russe et à l'échange de ce permis contre un permis suisse. A l'appui de son recours, il dépose diverses pièces figurant déjà au dossier ainsi que plusieurs pièces relatives à sa situation financière, dont une lettre de ses parents attestant qu'ils le soutiennent financièrement. Le Tribunal cantonal et le SCN renoncent à se déterminer. Le Conseil d'Etat et l'Office fédéral des routes concluent au rejet du recours. 