End to end шифрование сообщений, какой алгоритм/библиотеку выбрать?
Есть некий эталон в виде опенсорсного Signal: https://www.signal.org/
У них всё в этом плане открыто и расписано.
Дизайн доки: https://www.signal.org/docs/
Код: https://github.com/signalapp
Там же в дизайн доках ссылка на ихнюю готовую JS'ную либу для работы с их протоколом:
https://github.com/signalapp/libsignal-protocol-ja...
у VirgilSecurity бесплатные SDK под все платформы + готовые примеры чатов c E2E шифрованием 
Вот, например, firebase https://medium.com/@geekyants/implement-virgil-sec...