Как настроить защиту от DDoS для NGINX или Apache?
При данных параметрах обнаружения атаки думаю вам подойдет fail2ban.
Если есть доступ к коду приложения то лучше создать блэк листы и быстро отсеивать запросы уже на приложении. 
fail2ban как по мне так это костыль.