Как сделать перенаправление с xx.xx.xx.xx на xx.xx.xx.xx/site?
Нужно исправить все значения DocumentRoot с /var/www на /var/www/site и в блоке Directory сделать тоже самое, конфиг виртуального хоста обычно находится или в /etc/apache2/apache2.conf или /etc/apache2/sites-available/* или /etc/apache2/conf.d/*
ЭЭ, подождите — Вы сайт хотите из /var/www перенсети на диске в /var/www/mysite?
ну так перепишите конфиг виртуалхоста с указанием нового пути к каталогу с файлами сайта, одна, максимум две строчки в правке.

IPTables это брандмауер, который и знать ничего не знает про какие-то сайты и пути к сайтам.
он работает на пару уровней ниже, чем apache, и оперирует на уровне ip/hostname/port/net interface