VDS — всё действительно настолько плохо?
Наймите админа который вам все настроит как надо.
Сейчас только ванговать можно, что, да как у вас там работает.
Давайте начнем с того, что кроме самой оси стоит у вас, версии mysql, apache, nginx, php как это все заведено, покажите конфигурационные файлы и тд....
у вас может настройки воркеров стоят не верные вот он и забивает память, чтобы это понять нужно видеть конфиг апача из секций perfwork. Если у вас nginx то там другая история. Как заведен PHP, что там в конфе у него, размеры баз SQL как настроен mysql и тд...
В любом случае сейчас идет речь о воздухе, так как универсальных сборок не бывает, и в любой даже максимально настроенной VPS придется что то править ручками + куча софта который вам никогда не понадобиться! Поэтому зачем иметь на бошку гемор и потенциальное решето, если проще поднять сервер с нуля, включив все самое нужно и оптимизировав под имеющиеся ресурсы.