Какой язык и средства необходимы для написания ОС?
Можно начать с прочтения Таненбаума — Современные операционные системы.
Неплохо будет ознакомиться с Minix (ОС изначально разрабатывалась в академической среде для обучения студентов, поэтому документированна), www.minix3.org/ www.minix3.ru/ в дополнении к книгам Таненбаума.
PS: Ещё MinuetOS (www.menuetos.net/) и её форк Kolibri (kolibrios.org/ru/) - ОС написанная полностью на ASM имеет неплохую документацию и открытый исходный код.