Какая серверная ОС более продуктивна для совместной работы nginx и apache?
Ubuntu с Nginx (он там вероятно более свежий будет чем в других дистрибутивах, а это и поддержка HTTP/2 и некоторых других вещей).
Apache выбросить (исключение может быть лишь если у вас тонны legacy правил в mod_rewrite, которые вы не можете по какой-то причине переписать в конфиг Nginx или обрабатывать на уровне приложения (предпочтительно)).
Linux или *BSD - однофигственно что из этого
Win - нет.