Как докер запускает другие операционные системы?
Контейнеры используют тоже ядро, что и хост. Если вы не имели в виду под "другими ОС" разные дистрибутивы Linux, то ответ - гипервизор + виртуалка с нужной ОС.
Контейнеры используют тоже ядро, что и хост
Тут chupasaurus прав
Но в остальном ...Если вы не имели в виду под "другими ОС" разные дистрибутивы Linux, то ответ - гипервизор + виртуалка с нужной ОС. 
В docker гипервизора и виртуальной машины и в помине нет. Совершенно другая технология. Можете почитать Wikipedia ту же. Поэтому приложение гостевой системы на самом деле исполняется как процесс в основной системе. Совершенно не возможно использовать ОС кроме GNU/Linux и/или разных архитектур(гость-хост) в docker принципе. Под Windows работа docker реализована была в старых версиях на основе виртуальной машины с Linux и Linux подсистемы в новых версиях (docker и Windows).
Как работает docker не для кого не секрет. Подробности можно найти в интернете