Iptables и SYN flood?
178.173.168.238 — это IP-адрес атакующего? Зайдите на него через браузер.
Введите admin:admin… Вы не поверите…
Если это SYN flood, может быть имеет смысл правила писать конкретно под флаги SYN, ACK SYN…?