Почему растут GC паузы у JBoss'а?
Э-м-м… почему такой большой размер YoungGen? На то и нужен generational GC, чтоб молодое поколение было маленьким и быстрым. Какой общий размер Java Heap?
Для максимизации пропускной способности ParallelGC лучше.
Похоже на утечку памяти в самом приложении. Есть возможность запустить с -Xloggc:gc.log -XX:+PrintGC [-XX:+PrintGCDetails -XX:+Verbose]?
В итоге, все решилось добавлением в JAVA OPTS параметров -XX:+CMSClassUnloadingEnabled -XX:+CMSPermGenSweepingEnabled.