Какой сервер выбрать для проекта?
Таблицы "с огромным количеством записей" - не приговор, учитывая повсеместное внедрение SSD и возможности партиционирования.

Выбираете минимально-разумную конфигурацию, проводите нагрузочное тестирование. Если производительность не устраивает - смотрите, во что упёрлось и добавляете соответствующий ресурс. На что делать упор - зависит от конкретного случая, универсального совета нет. В целом - СУБД любят, когда индексы полностью помещаются в память.

Всё это справедливо, если вы уверены в производительности самого приложения, а также, разумется, подразумевает виртуализацию.
Для начала, Я бы ответил для себя более конкретно, сколько это - огромное колличество записей. Какой объем изменений за период времени. Требования к надёжности. Ну и да, провел тестирование производительности, ещё до покупки, хотя бы на десктопе.