Почему iptables не блокирует входящий трафик с IP адреса на 80 порт?
-d  destination
ваше правило гласит:
входящие пакеты направленные на адрес (ип, что вы баните) и на порт 80 - отбросить.
Вы вообще как это себе представляете?
-s ban_ip  и все будет хорошо
Если стоит прокси, то попросите провайдера отправлять x_forwarder_for и блокируйте по нему средствами фронтенда.