Какой алгоритм шифрования более стойкий для передачи больших текстовых файлов?
Странный вопрос. Для шифрования используются исключительно симметричные алгоритмы.
Все они стойкие,  для шифрования используйте например AES.
Ассиметричные используются для обмена ключами как правило и ни для чего более.
Для больших текстовых файлов куда важнее их предварительно сжать...