Как защитить данные на vps сервере?
Нет, конечно же. 
Хостер может в любой момент сделать снапшот Вашего VPS и ковыряться в нем, как хочет и сколько хочет. Никакое шифрование ни от чего не спасет, потому что нет у Вас возможности организовать доверенную среду загрузки (то есть такую среду, где Вы могли бы быть уверенными, что ключ шифрования не уходит на сторону).
нет
для защиты надо шифровать диск
не спасет от физического доступа к серверу но сильно затруднит