Нужно ли сжимать архив с паролем и шифровать имена файлов?
Зависит от кого защищаемся. Если от органов безопасности, то, вполне возможно, шифрование будет взломано.

2) шифровать имена файлов внутри архива? 
If archive headers are not encrypted (“encrypt file names” option is disabled), file checksums for encrypted RAR 5.0 files are modified using a special password dependent algorithm. This prevents third parties from guessing file contents based on checksums.
What is the "Encrypt File Names" Option?

If you set the "Encrypt file names" option, WinRAR will not only encrypt the file data, but all other sensitive archive areas like file names, sizes, attributes, comments and other blocks. This provides a higher level of security.

If you want to prevent third parties from drawing conclusions about the content of the archives based on the meta files, you should enable this function. Without entering the correct password, it is impossible to even view the list of files that have been encrypted.https://www.win-rar.com/encryption-faq.html?&L=0
1. Максимальное сжатие увеличивает время на разжатие незначительно, Но увеличивает, усложняя подбор перебором.

2. Шифровать имена файлов - очень важно, потому что если в большом архиве встретится файл, который и так известен (например какая-то известная библиотека или программа, которую можно скачать и инета, и злоумышленник получит зашифрованный и расшифрованный файл, что позволяет ему использовать уже другие методы для расшифровки, не прямой перебор. В таком случае злоумышленник даже не поймет что именно лежит в архиве.

3. В идеале использовать опцию solid архивирования в рар, посколько в этом случае для сжатия файлов используются данные из предыдущего файла, таким образом нет возможности распаковать конкретный единичный файл (кроме самого первого), а если первый файл в архиве еще и не маленький - это значительно увеличивает время перебора. В обычном не-solid архиве, можно найти какой-нибудь очень маленький файл и перебирать все на нем.