Домашняя серверная машина, как создать?
Есть два понимания что такое сервер и соответственно выбира что да как:
* сервер как функция, т.е. набор софта на любом железе
* сервер как железо, обычно это вендорское оборудование, когда вместе с высокой ценой тебе дают какие то гарантии (я не про замену комплектующих, а про софт и драйвера) и обслуживание (плюс само железо может быть надежнее, как минимум за счет ecc памяти, но есть и десктопные решения)

Если тебе домой майнкрафт запускать, то само собой тратить деньги на дорогую гарантию (которую кстати скорее всего использовать и не получится) - бессмысленно.

Дальше, железо может ограничить выбор операционной системы, буквально, можно получить как невозможность запускать последнего win11 так и не полную поддержку linux (редко), всякое бывает.

Выбор ОС когда для себя - вопрос в первую очередь 'что поддерживает твой софт' и во вторую 'что лучше умеешь'. Для хостинга игр выбор ОС почти не влияет на их работу, например windows даст от силы пару дополнительных гигабайт затрат оперативной памяти и накладные расходы на работу с диском (сервера игр могут этого не заметить, особенно если выбирать ssd).

Графический интерфейс если есть но не используется не создает никаких проблем и нагрузки, плюс даже в последних версиях windows можно настроить такую тему, что это совсем станет не заметно.
Ставить ту ОС которой ты умеешь пользоваться. Или которая подходит под задачу
Подключаться через уд доступ. Если это винда - то rdp
Если линукс - то обычно по ssh

Хостить сервер дома не очень умная мысль. Дешевле и выгодней обычно арендовать