Как правильно оптимизировать nginx и php?
Как вариант, вообще выкинуть апач к чертям и использовать только nginx + php_fpm.
Начните с оптимизации MySQL. Например с помощью mysqltuner. А еще проще, поставьте Битрикс бизнес, там есть монитор производительности. Можете следовать его подсказкам.
В конфиги лезть не надо, все параметры доступны из ISPmanager.