Apache2 prefork — контроль над Индейцем?
Как уже написали выше — поставьте ограничение на кол-во worker-ов апача, ну а перед апачем — nginx. Настройте чтоб всю статику отдавал именно он, к апачу пускал только динамику.
Отследить: написать самому скрипты или использовать готовые, например
Ограничить: самый прямой способ ограничить процесс по памяти — виртуализация. Рассмотрите openvz, xen, kvm. Можно так же поиграться с limits.conf на уровне пользователя.