Какую подобрать конфигурацию для WEB-сервера на VDS/VPS для магазина на WordPress (2017)?
вопрос построения высоко-нагруженного веб-сервера
А что, уже точно магазин имеет такую посещаемость , что  надо делать сразу высоконагруженный  ?
Просто практика показывает, что это зря потраченные/вложенные деньги и до высоких нагрузок еще далеко. Как минимум чуть ли не год.1. Какую использовать лучше ОС для WEB-сервера? CentOS or Ubuntu? Какие версии?
То, что вам ближе или то, по чему вас смогут быстро проконсультировать.
Как по мне вообще все равно.2. Какую лучше использовать конфигурацию (см. выше описание)?
Я бы просто начал с ngix+php-fpm+mariadb он же mysql.
+ настроил мониторинг для понимание нагрузок на сервер.3. Как устанавливать, используя какие средства?
эм. ну в ubuntu sudo apt-get nginx php-fpm mariadb-server mariadb-client
как вариант вообще не заниматься этим, а взять готовые шаблоны например у vscale.io
Магазин на WP - это уже выглядит мягко говоря странно.
Потом, судя по заданным вопросам Вам точно понадобиться Админ. Без понимания, Ваш так называемый магазин не проживет и 6 месяцев (будет инфицирован, тем более если он на WP).
Установка VestaCP - инсталляция самой панели не составит трудностей, но пользоваться ей можно только после правки конфигов и установки дополнительных модулей, без них сервер будет "голый".Вам совет: Наймите админа.