Faits: A. Par requête du 30 mai 2008, le centre médico-social de St-Maurice a requis la Chambre pupillaire de St-Maurice d'examiner l'opportunité d'une mesure tutélaire sur la personne de A._. Le 19 avril 2010, la Chambre pupillaire a prononcé l'interdiction de l'intéressé. Celui-ci a recouru contre cette décision auprès du Tribunal des districts de Martigny et St-Maurice. Il concluait à son annulation au motif qu'un des membres de la Chambre pupillaire aurait dû se récuser. B. Par décision du 24 juin 2010, le Juge II des districts de Martigny et St-Maurice a déclaré le recours irrecevable. Il a estimé qu'il n'était pas compétent à raison de la matière. A titre subsidiaire, il a considéré que, supposé recevable, le recours aurait de toute façon dû être rejeté. C. Contre cette décision, A._ a, le 2 juillet 2010, déposé un recours au Tribunal fédéral. Dans une écriture complémentaire du 6 juillet 2010, il a conclu à l'annulation de la décision en tant qu'elle déclare son recours irrecevable et au renvoi de la cause à l'autorité compétente pour nouvelle décision. Par différentes écritures envoyées entre le 10 juillet 2010 et le 11 octobre 2010, il a complété son recours et déposé des pièces nouvelles. Le 8 juillet 2010, il a sollicité le bénéfice de l'assistance judiciaire pour la procédure fédérale. Le Tribunal de district a renoncé à se déterminer. Quant à la Chambre pupillaire, elle a commenté le recours sans se déterminer toutefois sur le sort qui devait lui être réservé. 