Хостинг Windows для домашнего назначения?
Почти с любой программой, включая Photoshop, можно работать по RDP.
Процесс работы с ним будет не таким отзывчивым, как на локальном компьютере, но работать это будет. Вы будете испытывать задержки в прорисовке картинки ~пропорционально сетевой задержке (latency) до хоста.
Профессиональные хостинги обычно используют только серверные ОС.
Поиск хостинга принципиально с домашней версией ОС может занять время, но они существуют. Обычно это чьи-то частные небольшие площадки, иногда называемые "школохостингами".
Ещё есть "Desktop as a Service". Её предоставляют не многие, но это виртуальный десктоп с десктопной версией ОС, иногда работающий не только по PCoIP/HDX, но и по RDP.
Photoshop будет работать и на десктопной версии, и на серверной ОС. В этом разницы нет.
Для акселерации, Photoshop старается использовать GPU. Если у сервера слабая видеокарта (напр.: Intel HD Graphics), то вся нагрузка будет ложиться на процессор. На хостинге со слабым CPU Photoshop может лагать.Знаю вариант покупки выделенного сервера, но есть ли там услуги установки операционной системы собственноручно?
Не всегда. Часто это просто выбор среди заготовленных дистрибутивов для развёртки.
Вы не обязаны активировать лицензию на сервере, она будет работать в триальном режиме в районе 180 дней. После этого можно будет запросить переразвернуть сервер повторно, предварительно сохранив данные куда-нибудь к себе.
Photoshop по RDP? забудьте, у вас там такой толстый канал  должен быть чтобы это нормально работало, что проще потратиться на ноутбук.
Т.е. всё что так или иначе отрисовывает сложную графику, будет тормозить нещадно ( уже тестил данный подход, чтобы с любого утюга можно было работать - полезный результат = 0, проседает сеть ).
Если всё-таки решитесь, то практически на любом хостинге ( что отечественном, что зарубежном ), можно ставить свои системы. Другой вопрос в том, что иногда нужно будет подтверждать что вы ставите лицензию ОС, на зарубежных всегда подтверждать.
Внутрь можете ставить что угодно и сколько угодно раз ломаное, у них нет никаких прав лазить внутрь системы, так что по сути оплата только за ОС.