Как передать из формы логин и пароль в зашифрованном виде на сервер?
Используйте асимметричное шифрование Как реализовать RSA шифрование на javascript?
Открытым ключом можно будет только зашифровать пароль, расшифровать его можно будет только на сервере.
Про сессионные куки - возможно это CSRF токены?
Шифрование - чрезвычайно ресурсовемкая (процессорное время) операция.
На JS будет или подобие шифрования, иллюзия.
Или недопустимо тормозно.
Доверьтесь https.