Проблемы с TCP соединениями в Linux. Как победить?
На сервере есть фаервол?
На сервере есть натирование? Возможно вы уперлись в данные настройки, по умолчанию iptables имеет очень ограниченные настройки на кол-во Нат сессий
Посмотрите в top статус процессов nginx