Как защититься от взлома по ssh ключу?
Защититься очень просто:

Никому не давайте свой секретный ключ. Зашифруйте его сверху еще и паролем, если уж совсем неймётся.
Используйте для разных серверов разные ключи. Если один из них будет скомпрометирован, остальные не придётся менять. Хотя что сложного в том, чтобы поменять ключи?

Он и должен их показывать - на то они и открытые ключи. А закрытый ключ хранится у вас