Может ли не серверное железо перекрыть серверное или как собрать новый сервер?
В принципе задача построения оптимальной железяки на базе десктопных комплектующих вполне решаема (на базе серверных комплектующих тоже вполне решаема). Но нужно учесть немало деталей.

Во-первых, каков бюджет?

Во-вторых, почему не рассматриваете горизонтальное масштабирование вместо вертикального? Для кучки виртуальных машин было бы очень логично не менять железо, а рядом со старым поставить новое.

В-третьих, готовы ли пожертвовать IPMI? Это нормально во многих случаях, но всё же это должно быть осознанное решение.

В-четвёртых, максимальный объём памяти на десктопных материнках. Если захочется больше, чем 128 ГБ, то Socket LGA2066 или TRX4 (но что-то не верю, что TRX4 впишется в бюджет). Если достаточно 128 ГБ, то можно взять AM4 или LGA1700. Есть ровно одна причина, по которой можно выбрать LGA1700 - это возможность в первых рядах героически броситься на амбразуру DDR5 (пока дорогая память и пока небольшой выигрыш в производительности). Если нет склонности к героизму или нет возможности разбрасываться деньгами, то на сегодня оптимально будет AM4.

В-пятых, количесво ядер. Сейчас у вас два 4-ядерных процессора. На десктопном железе будет один процессор. Он должен превосходить старые не только по частоте, но и хотя бы не уступать по количесву ядер и потоков. Т.е. хотя бы 8C/16T (и даже такой минимальный вариант уже даст выигрыш).

В-шестых, помните про интегрированный GPU. В серверном решении он был на материнке. Обращайте внимание на наличие или отсутствие графических ядер в десктопных процессорах. Часто при большом количестве ядер встоенная графика отсутствует, в этом случае нужно не забыть поставить дискретную "затычку" (что-нибудь вроде GT710).

В-седьмых, при апгрейде с использованием серверного корпуса нужно помнить, что блок питания имеет форм-фактор не ATX. Просто убедитесь, что есть подходящий запасной БП. Это ATX можно купить на каждом углу.
Серверные решения в подавляющем большинстве случаев не совместимые с десктопными, ни разъемами ни креплениями системы охлаждения ни даже стандартами (я читал что даже контроллеры дисков могут не завестись на десктопных материнках), хотя может повести.

Серверные ATX блоки питания очень хороши (только шумные)

Если система охлаждения процессора по креплениям подойдет, тоже оставь, диски, контроллер... с оперативной памятью беда, это ecc и главное ddr3, так что без вариантов - продавай на вторичном рынке, она должна цениться

Про десктопные материнки, вопреки расхожему мнению, для задач частного лица и малого предпринимательства они более чем подходят, даже без ecc. Проблемы с софтом - кем то выдуманы, все современные ОС прекрасно работают как с десктопным железом так и с серверным, редкие проблемы - решаемые, есть ряд ограничений, искусственные, например серверные ревизии windows не будут нормально работать с десктопными nvidia видеокартами.

Зато соотношение цена - производительность у десктопного железа в несколько раз лучше любого серверного решения. Отсутствие вендорлок и огромное предложение по комплектующим (да, кризис и на это повлиял но не до смерти) - не оставляет шансов серверным решениям.