Как с вм2 подключиться по ssh ключу к вм3, если закрытый ключ храниться на 1 вм?
У некоторых SSH клиентов есть ключ -J, попробуй его. 
Альтернативно, установи первое соединение с пробросом порта на локальную машину, и коннекться ко второму хосту через проброшенный порт.
Такой функционал есть и называется Forward Agent
Можно использовать ключ A:
ssh -A vm2
либо
В свой конфиг ssh клиента 
vim ~/.ssh/config
прописываем 
Host vm2
  ForwardAgent yes
или, для всех хостов, но тогда возможен перехват сессий, если промежуточный хост сомнителен.
Host *
  ForwardAgent yes