Faits: A. Par courrier du 7 mars 2007, X._, domicilié à St-Maurice, a déposé une demande d'exonération de la redevance radio et télévision. Il alléguait que son revenu mensuel de 700 fr., octroyé par l'aide sociale, lui donnait droit à cette exonération. Après un échange de quelques courriers, Billag SA a, par décision du 4 juillet 2007, rejeté la demande d'exonération au motif que l'intéressé ne bénéficiait pas de prestations complémentaires AVS ou AI comme le requérait le droit en vigueur. Le 15 octobre 2008, l'Office fédéral de la communication a rejeté le recours de X._. B. Par arrêt du 28 avril 2009, le Tribunal administratif fédéral a rejeté le recours de l'intéressé. Il a en substance jugé que, le recourant ne bénéficiant pas de prestations complémentaires AVS ou AI, il ne remplissait pas les conditions légales de l'exonération et que le fait d'exonérer seulement les personnes ayant droit aux prestations AVS ou AI ne constituait pas une inégalité de traitement. C. Agissant en personne devant le Tribunal fédéral, X._ y a déposé un "recours" dans lequel il demande uniquement l'admission de celui-ci. Billag SA conclut au rejet du recours. L'Office fédéral de la communication renvoie à sa décision du 15 octobre 2008 et demande le rejet du recours dans la mesure où il est recevable. Le Tribunal administratif fédéral renonce à prendre position. 