Как люди пишут операционные системы?
Берут и пишут. Читают книги по теории, берут готовые исходники, пытаются выделить в них куски, про которых писали в книгах и проследить их взаимодействие, составляют в уме проект своей оси, делают разработку по компонентам.
Долгая, нудная, сложная ... и совершенно бессмысленная работа, разве только just for fun.
Писать полноценную ОС довольно долго и в наше время нецелесообразно. Почитайте что такое проект «Оберон 2013», в рамках которого автор адаптировал ОС с графическим интерфейсом пользователя для запуска на FPGA ( ПЛИС).