Как записать .mp3 в JSON?
Во-первых: не надо так делать.
Во-вторых: кодируйте в base64(или аналоги), json - текстовый формат и raw данные туда пихать нельзя.
Хранить mp3 вполне логично в файлах в каталоге проекта.
Если вы по какой-то причине не хотите хранить их россыпью в файловой системе, то можно собрать их в zip-файл без сжатия или в tar-архив. С ними можно работать не распаковывая, открыать и читать файлы внутри.
Ещё есть встроенный модуль shelve - это персистентный key-value storage, который держит свои ключи и значения в одном файле. Доступны чтение и запись бинарных данных по ключу.
Base64 приведёт к тому что объём данных увеличится примерно на четверть (на 25 процентов). Сериализация и десериализация больших файлов в текстовый json будет медленным и неэффективным.

Опишите шире вашу задачу и вам предложат типовое ее решение.