Выбор key-value хранилища?
Redis, с включением Persistence redis.io/topics/persistence
В MongoDB вы можете использовать https://docs.mongodb.org/manual/reference/configur... для старого хранилища. 
Для WiredTiger по умолчанию идет компрессор snappy. Но вы можете использовать zlib или bzip
source.wiredtiger.com/2.4.1/compression.html Правда нагрузка на CPU вырастет. Будьте осторожны.
Кроме этого я могу сказать, что у вас неправильный подход к бекапам для MongoDB. Использовать режим полного бекапа не очень удобно. Правильно использовать отложенную репликацию.
Могу сказать, что у меня текущая база содержит примерно 100 GB данных (на диске 253G, Mongo 2.6). Все отлично реплицируется (у меня replica set из 2х машин) и бэкапится (delayed). Это требует отдельный сервер, но он может быть не таким мощным как основной или иметь другой диск, например обычный HDD.
10 GB это очень маленький объем данных. Пересмотрите свою архитектуру.
Чем не нравится mongodb:1) Поставте монгу 3.2, будет весить меньше раз в 5 чем в mysql
2) Видимо это бага, должно лечится обновлением монги