Проблема компиляции была решена установкой вершины стека с помощью SetKernelBaseStack по совету Темиргалеева, если не ошибаюсь. В моем варианте компилятор собирался в динамическую библиотеку.
Вот когда соберусь выпустить следующую версию фронтенда с патчем для Линукса, проверю компилятор на самосборке из исходников. А то последний раз падал на сборке Kernel.