Как максимально автоматизированно настраивать чистые VPS?
Если VPSки свои - ansible, если не свои - скриптовать. Для автоматической установки есть kickstart (RHEL-based) и unattended-install (DEB-based)
Docker не поможет, если на свежеустановленной ОС его нет, опять же его нужно будет поставить. Самый простой способ написать bash-скрипт, который выполнит всю ту последовательность команд, которую обычно вы делаете. Можно его сделать параметризуемым, либо подкладывать ему какой-то конфиг (например с пользователем и паролем).