Просто вводится дополнительный уровень абстракции: поток выполнения. Количество потоков может превышать количество процессоров. С этого уровня абстракции работа системы распределяется между потоками, а не на процессорами.