Как сделать сайт на 2 провайдера?
На машине с сайтом линукс?  Провайдеры приходят с двух разных роутеров?
тогда просто читайте как возвращать пакеты обратно в тот же интерфейс из которого они пришли. Гуглите по словам  iproute2 и multihome.  
Вот сразу неплохой линк, https://habr.com/ru/post/107267/
Куда именно и откуда не доходит запрос во второй подсети? Пробуй поймать пакет на стороне вебсервера и отследить направление ответа. default gw влияет только на инициализацию соединения с сервера. Все входящие соединения работают по правилам "откуда пришел туда и вернулся" если нет явной обработки на стороне фаервола.