Как отладить высокую загрузку CPU ядром windows?
xperf очень мощный инструмент, если вкурить в его использоваие, то вполне можно решить вашу задачу.
Скорее всего тормозит драйвер. У меня подобные поведения наблюдались у NOD (тормозит вплоть до вышибания драйверов дисковой системы, тормозить перестает, но почти сразу вешается система) и драйверов для видеокарты от ATI.