Faits: A. A._ et C._ sont les parents de B._, né le 22 décembre 2003. Depuis leur séparation en avril 2004, ils sont régulièrement en litige, notamment quant aux relations personnelles que le père souhaite entretenir avec l'enfant. Le 21 novembre 2006, A._ a déposé une plainte pénale à l'encontre de C._ auprès du Juge d'instruction du Valais central (ci-après: le juge d'instruction), accusant le prénommé d'actes d'ordre sexuel sur B._ (art. 187 CP). L'enfant a été interrogé par la police judiciaire le 12 décembre 2006. Cette audition a fait l'objet d'un enregistrement vidéo conformément à l'art. 10c al. 2 de l'ancienne loi fédérale du 4 octobre 1991 sur l'aide aux victimes d'infractions (aLAVI; RO 2002 2998), auquel correspond l'art. 43 al. 5 de la loi fédérale du 23 mars 2007 sur l'aide aux victimes d'infractions (LAVI; RS 312.5). L'expertise pédopsychiatrique ordonnée par le juge d'instruction n'a pas confirmé les accusations portées contre C._, de sorte qu'une décision de refus de donner suite à la dénonciation pénale a été rendue le 16 septembre 2009. Aucun recours n'a été déposé à l'encontre de cette décision dans le délai légal de dix jours (art. 46 ch. 4 en lien avec l'art. 169 ch. 1 du Code de procédure pénale du canton du Valais du 22 février 1962 [CPP/VS; RS/VS 312.0]). Par courrier du 12 octobre 2009, confirmé le 15 octobre suivant, A._ a demandé au juge d'instruction de lui fournir une copie de l'enregistrement vidéo de l'audition du 12 décembre 2006. Par décision du 5 novembre 2009, le juge d'instruction a rejeté cette requête, tout en indiquant que l'enregistrement pouvait être visionné à son office. Compte tenu des relations conflictuelles qu'entretenaient les parties, il a estimé qu'il convenait d'éviter tout risque de diffusion des images et que les intérêts de l'enfant et du père de celui-ci s'opposaient à la remise d'une copie du film de l'audition. Il indiquait que sa décision pouvait faire l'objet d'une plainte à la Chambre pénale du Tribunal cantonal du canton du Valais dans un délai de dix jours. B. Saisie d'une plainte formulée par A._ en son nom propre et au nom de B._, la Chambre pénale du Tribunal cantonal du canton du Valais a transmis l'écriture à la Cour de droit public de ce même tribunal comme objet de sa compétence. Cette Cour a traité l'acte comme un recours de droit administratif et elle l'a rejeté dans la mesure de sa recevabilité par arrêt du 18 février 2010. C. Agissant par la voie du recours en matière de droit public A._ et B._ demandent au Tribunal fédéral d'annuler cet arrêt. Ils se plaignent de la violation du droit à être jugé par un tribunal compétent (art. 30 al. 1 Cst.), du droit d'être entendu (art. 29 al. 2 Cst.) et du principe de l'égalité de traitement (art. 8 al. 1 Cst.). Le juge d'instruction se réfère aux considérants de l'arrêt attaqué. Le Tribunal cantonal a renoncé à se déterminer. 