Где находится папка .ssh пользователя root?
/root/.ssh
создаёте её сами или первый раз из под рута сделайте коннект куданибудь
можно самому создать эту директорию от рута mkdir /root/.ssh либо на клиенте выволнить команду ssh-copy-id root@myservername, тогда файл будет создан автоматом, и копировать вручную ничего не нужно.
но лучше всего не использовать рута, и по хорошему его нужно закрыть ( passwd -l root), но перед этим настроить sudo (/etc/sudoers). даем пользователю нужные права на нужные программы, и отменяем требование пароля при выполнении команд, например:
myuser ALL=(ALL) NOPASSWD:ALL
но лучше всего прочитать как работает sudo и настроить его под свои задачи.