Faits: A. Le 9 novembre 2009, un substitut auprès du Ministère public fribourgeois a déposé plainte pénale pour diffamation ou calomnie contre A._, lui reprochant d'avoir, dans une demande de récusation, tenu des propos attentatoires à son honneur. Le 13 août 2010, le plaignant a retiré sa plainte après avoir accepté les excuses présentées par A._. Par ordonnance du 15 septembre 2010, le Juge d'instruction saisi de la cause a prononcé un non-lieu et mis les frais de la cause, par 295 fr., à la charge de A._, considérant que celui-ci avait donné lieu à la procédure par un comportement répréhensible. B. Par arrêt du 12 janvier 2011, la Chambre pénale du Tribunal cantonal fribourgeois a rejeté le recours formé par A._. La motivation de l'ordonnance, explicitée durant la procédure de recours, était suffisante. Les termes employés dans la demande de récusation avaient donné lieu à la procédure pénale et pouvaient engager la responsabilité de leur auteur. La présomption d'innocence n'était pas violée dès lors qu'il n'y avait pas eu d'appréciation de la culpabilité. La question du montant de l'émolument était de la compétence de la Cour de modération du Tribunal cantonal. Les frais de la procédure de recours, soit 500 fr., ont été mis à la charge du recourant. C. Par acte du 9 février 2011, A._ forme un recours au Tribunal fédéral par lequel il demande l'annulation de l'arrêt de la Chambre pénale, la suppression d'un passage de l'ordonnance de non-lieu et la mise des frais à la charge de l'Etat. Il demande en outre 5'000 fr. de dépens. Le 15 février 2011, il a demandé au Tribunal fédéral de renoncer à l'avance de frais qui lui avait été demandée, et subsidiairement requis l'assistance judiciaire. Le Ministère public conclut au rejet du recours dans la mesure de sa recevabilité. La Chambre pénale n'a pas formulé d'observations. 