A.- A._, ressortissant turc né le 1er janvier 1982, a été inculpé d'assassinat, subsidiairement de meurtre, ainsi que de brigandage, en relation avec l'homicide de D._, perpétré le 28 juin 1999. Son frère B._, né le 15 mars 1984, a été inculpé d'instigation à ces délits. Le Président de l'Autorité tutélaire du district de Neuchâtel, agissant comme autorité d'instruction selon l'art. 4 de la loi neuchâteloise sur la procédure pénale applicable aux enfants et adolescents, du 17 décembre 1974 (LPEA), a ordonné, le 30 juin 1999, le placement d'Emrah et de B._ en détention préventive. Le 24 août 1999, le Président de l'Autorité tutélaire a admis la demande d'assistance judiciaire présentée par A._ et lui a désigné Me Christophe Schwarb, avocat à Neuchâtel, comme défenseur d'office. Le 25 novembre 1999, A._ a demandé le changement de son défenseur d'office, n'étant pas satisfait des services de Me Schwarb. Les 9 et 20 décembre 1999, C._, père de B._ et A._, a réitéré cette requête, en expliquant que ses fils n'avaient pas besoin d'un avocat. Invité à se déterminer, Me Schwarb a, le 20 décembre 1999, rejeté les critiques formulées par C._ et A._ à son encontre, tout en admettant que ses relations avec C._ étaient "très tendues". Le 6 janvier 2000, Me Freddy Rumo, avocat à La Chaux-de-Fonds, s'est adressé au Président de l'Autorité tutélaire pour lui indiquer que C._ lui avait confié le mandat de défendre A._, en précisant que C._ avait décidé de "se débrouiller pour assurer les frais de défense d'A. _". A ce courrier était joint une procuration établie le 20 décembre 1999 par C._ en faveur de Me Rumo. Ce document comporte une mention selon laquelle "le mandant s'oblige à relever le mandataire et tous les frais et honoraires". Le 11 janvier 2000, le Président de l'Autorité tutélaire a invité Me Rumo à lui confirmer que son client renonçait à l'assistance judiciaire et, dans l'affirmative, à prendre l'engagement d'assurer la défense d'A. _ "jusqu'à fin de cause". Le 17 janvier 2000, Me Rumo a confirmé au Président de l'Autorité tutélaire que son client renonçait à l'assistance judiciaire dans la mesure où il avait décidé de le consulter. Le 3 février 2000, le Président de l'Autorité tutélaire a pris acte du changement de mandataire de Tosun et invité Me Schwarb à lui soumettre sa liste de frais. Le 28 février 2000, le Président de l'Autorité tutélaire a clos l'instruction et transmis le dossier à l'Autorité tutélaire pour jugement. L'audience de jugement a été appointée au 30 mai 2000. Le 29 mai 2000, Me Rumo a présenté à la Présidente de l'Autorité tutélaire une demande d'assistance judiciaire pour le compte d'A. _. Il a fait valoir que celui-ci était devenu majeur dans l'intervalle et qu'il lui était indispensable de disposer d'une défense indépendante, notamment à l'égard de C._. Par jugement du 31 mai 2000, l'Autorité tutélaire a reconnu A._ et B._ coupables des faits mis à leur charge. Elle a ordonné leur placement en institution. Le 17 janvier 2001, la Présidente de l'Autorité tutélaire a rejeté la requête du 29 mai 2000. Par arrêt du 13 mars 2001, le Tribunal administratif du canton de Neuchâtel a rejeté le recours formé par A._ contre la décision du 17 janvier 2001, et rejeté la demande d'assistance judiciaire présentée à l'appui du recours. Il a considéré, en bref, que dès l'instant où Tosun avait renoncé à l'assistance judiciaire pour mandater un défenseur de son choix, il ne pouvait plus, après coup, demander à l'autorité de désigner celui-ci comme défenseur d'office. B.- Agissant par la voie du recours de droit public, A._ demande au Tribunal fédéral d'annuler l'arrêt du 13 mars 2001 et de renvoyer la cause au Tribunal administratif pour nouvelle décision au sens des considérants. Il requiert en outre l'assistance judiciaire. Il invoque les art. 29 al. 3 Cst. et 6 par. 3 let. c CEDH. Le Tribunal administratif a produit des observations tendant au rejet du recours. La Présidente de l'Autorité tutélaire a renoncé à se déterminer. 