Как сделать компилятор СИ на джаве?
Вы уверены? Создать компилятор Си с нуля, даже очень тривиальный, даже используя всякие генераторы парсеров - это несколько месяцев работы целой команды специалистов. 

Нужно понимать ассемблер, иметь знания по теории компиляторов (есть много книг), теории языков.

Если же вам надо просто прикрутить компиляцию к вашему редактору, то, как многие другие IDE, вам надо будет лишь запускать сторонний компилятор (будь то gcc, clang, visual studio или что-то другое).

У всех них есть консольное приложение которому можно передать файлы в качестве аргументов в коммандной строке. Вам остается лишь разобраться, как запускать приложения на Java.
Вам не нужно писать свой компилятор на жаве.
Вы можете притащить с собой готовый - хоть gcc, хоть tcc, хоть clang.
https://stackoverflow.com/questions/11852187/how-t...

Но если хотите сами с нуля - точно также, как и на любом другом языке.