Faits: A. Y._ a mandaté A._, architecte, et B._, entrepreneur, pour la construction d'une villa. A la suite de problèmes d'humidité, Y._ a déposé, par écriture du 4 septembre 2003, une requête de preuve à futur contre A._, B._ et C._ SA, tous les trois représentés par l'avocat X._; cette requête portait sur l'administration d'une expertise visant à établir l'existence de défauts affectant la villa, leur origine et le coût des réparations. Dans cette procédure, l'avocat X._ soutenait que les éventuels défauts incombaient exclusivement à Y._ et que les prétentions de ce dernier étaient périmées et prescrites. L'expert judiciaire a constaté l'existence de malfaçons et chiffré le coût de leur réfection à 17'500 fr. Il a indiqué qui, de l'architecte ou de l'entrepreneur, en était responsable et dans quelle mesure. Y._ n'a obtenu de A._, B._ et C._ SA ni réparation ni indemnisation. En 1999, C._ SA a repris les actifs et passifs de la raison individuelle B._; la faillite de C._ SA a été prononcée le 18 avril 2005 et sa radiation d'office effectuée le 3 mars 2006. B. Le 18 février 2008, Y._ a présenté une demande en paiement à l'encontre de A._ et B._, prenant principalement des conclusions à leur encontre en qualité de débiteurs solidaires, subsidiairement en différenciant les montants réclamés à chacun d'eux. Formant un incident de procédure, il a contesté la capacité de postuler de l'avocat X._. Ce dernier a conclu au rejet de l'incident, précisant qu'il représentait seulement A._ et que ni B._ ni C._ SA ne disposaient de la légitimation passive; au demeurant, si la responsabilité des défendeurs devait être engagée, ceux-ci répondraient solidairement, ce qui excluait tout conflit d'intérêts. Le 7 août 2008, le Juge suppléant des districts de Martigny et St-Maurice a admis l'exception de procédure et déclaré que l'avocat X._ ne pouvait postuler en faveur de A._ dans la contestation civile l'opposant à Y._. Le pourvoi en nullité déposé par X._ auprès de l'Autorité de cassation du Tribunal cantonal valaisan (ci-après: le Tribunal cantonal) a été rejeté, dans la mesure de sa recevabilité, par jugement du 13 novembre 2008. L'intéressé a alors recouru au Tribunal fédéral qui, par arrêt du 17 avril 2009 (cause 2D_148/2008), a annulé le jugement du 13 novembre 2008 et renvoyé la cause au Tribunal cantonal pour qu'il statue avec un pouvoir d'examen conforme aux exigences de l'art. 111 al. 3 LTF. C. Par jugement du 17 septembre 2009, le Tribunal cantonal, se prononçant avec un plein pouvoir d'examen, a de nouveau rejeté le pourvoi en nullité formé par X._. Le juge cantonal a notamment considéré que, comme la procédure en responsabilité pour les défauts était la suite de la procédure de preuve à futur initiée par le maître de l'ouvrage contre l'architecte et l'entrepreneur, il existait un lien de connexité entre les deux procès. Le fait que l'avocat défende l'architecte dans la seconde procédure, alors qu'il était le mandataire des trois parties dans le cadre de la procédure de preuve à futur entraînait un risque de conflit d'intérêts concret, d'autant que les conclusions subsidiaires du maître de l'ouvrage tendaient à la répartition individuelle des montants à la charge des défendeurs. Le fait que X._ ne représentait alors que l'architecte et non l'entrepreneur avait pour effet d'accroître le risque d'une violation du devoir de fidélité de l'avocat envers son ancien client, qui était également partie à la procédure et dont les intérêts s'opposaient à ceux de l'architecte. L'avocat faisait en outre valoir des arguments (absence de qualité pour défendre de l'entrepreneur; disparition juridique de C._ SA) allant à l'encontre des intérêts de l'architecte, puisqu'ils exposaient celui-ci à supporter seul le dommage. D. Contre le jugement du 17 septembre 2009, X._ a interjeté un recours en matière de droit public au Tribunal fédéral. Il conclut à l'admission du recours, à la réforme du jugement entrepris ainsi que, par conséquent, à ce qu'il soit constaté que le mandat que lui a confié A._ ne contrevient pas à l'interdiction de tout conflit d'intérêts figurant dans la législation fédérale sur la libre circulation des avocats et à ce que sa capacité de postuler en faveur de A._ dans la contestation civile l'opposant à Y._ soit ainsi reconnue, le tout sous suite de frais et dépens à la charge de l'Etat du Valais, subsidiairement de Y._. Le recourant demande la production de dossiers. Le Tribunal cantonal n'a pas formulé d'observations, mais s'est référé aux considérants du jugement attaqué. Le Juge suppléant des districts de Martigny et St-Maurice a renoncé à se déterminer. Y._ n'a présenté aucune observation, à l'instar du Département fédéral de justice et police. E. Par ordonnance du 18 novembre 2009, le Président de la IIe Cour de droit public a admis la demande d'effet suspensif contenue dans le recours. 