Какие виды алгоритмов сжатия способны сжимать даже плохо сжимаемые данные, но при этом не увеличивая конечный размер?
1) Вы смешиваете алгоритмы сжатия, форматы данных и программы сжатия (архиваторы). Определитесь, что именно из этих 3 Вас интересует.
2) Теоретически почти любая программа сжатия, определив, что данные после сжатия занимают место больше, чем в оригинале, заменит алгоритм на STORING. 
НО у Вас все равно появятся накладные расходы в виде заголовка этого формата. Более того, в теории этот заголовок не может быть меньше 1 бита, т.к. информацию о том, применялся ли алгоритм сжатия или нет, необходимо как-то донести до приемной (распаковывающей) стороны, если только Вы не будете использовать для этого out-of-band-data, например, изменять/сохранять исходное расширение файла в зависимости от использованного метода/формата.
попробуйте  freearc, умеет искать повторы в диапазоне ажно 2 гб, можно "бустануть" внешними архиваторами, для улучшения сжатия отдельных типов файлов