Как настроить два внешних IP в Ubuntu Server?
Сервер правильно действует. 
Включаю телепатию :)
Вы указываете ему 
route add default gw x.x.x.x 
route add default gw y.y.y.y metric 1
И отвечает по умолчанию только один шлюз :)
И статью вам на самый простой скрипт работы двух каналов вам давали.
habrahabr.ru/post/54748
Там использовалась балансировка каналов через параметр weight 
 ip route add default scope global nexthop via $P1 dev $IF1 weight $W1 \
    nexthop via $P2 dev $IF2 weight $W2 
Что именно не понятно в этой статье? Я в свое время тоже с аналога такого же начинал.
У меня на этой же основе сейчас сделана переключалка на провайдерах.
1. Открываешь /etc/iproute2/rt_tables и дописываешь примерно такое:190     net_ext_1
195     net_ext_2
Ну т.е. описываешь новые таблицы маршрутизации.
Далее выполняем примерно такие команды:/sbin/ip rule add from 10.10.1.10 lookup net_ext_1 pref 20000
/sbin/ip rule add from 10.11.2.10 lookup net_ext_2 pref 20000
Адреса 10.10.1.10 и 10.11.2.10 замени на адреса своих интерфейсов.
И финальное:/sbin/ip route add default via 10.10.1.1 table net_ext_1
/sbin/ip route add default via 10.11.2.1 table net_ext_2
Этим ты указываешь маршруты по умоолчанию для каждой из таблицы. Адреса разумеется надо заменить на свои.
Если хочется более детально разобраться - читайте LARTC HowTo.
Спасибо пользователю.