Как работает защита от дудоса?
Существуюет два вида DDoS атак - атака на сервер, и атака на канал.
С атакой на сервер можно справится своими силами.
А с атакой на канал самому справиться невозможно.
Все сервисы предоставляющие такие услуги имеют широкий канал, который сложно забить мусорным трафиком.Как работают все эти сервисы?
Они принимают ваш трафик, фильтруют его и пересылают его вам.Какое оборудование используют? Пишут ли софт сами (фильтры), на чем их пишут и для какого оборудования?Какое угодно оборудование, какой угодно софт. Что нужно, чтобы создать свой сервис защиты от DDoS атак?Широкий канал. сервера, и специалистов по защите, которые реализуют фильтрацию. Используют ли машинное обучение, нейросети?Теоретически возможно, но не обязательно.  Обычно при атаке на канал вполне эффективны простейшие  фильтры.
Если речь о лидерах рынка, то оборудование - разных вендоров. а софт для управления - свой.
Есть еще масса крупных и мелких датацентов и хостеров которые продают wl-услуги сторонних поставщиков. По сути заворачивают на них свой трафик в случае крупных атак.
Что касается создания вашего стартапа. Нужно понимать, что порог входа в этот бизнес сильно ограничен требованиями к каналам.
Прошли те времена, когда одна железка за 50K сильно защитит.
DDoS в сотни гигов сейчас стоит заказать не дороже $1K, а содержание каналов таких обходится в разы дороже.
Как аналогия - нож. Стоит $3., а лечение раны, им нанесенной, может и $30K стоить.
Без начальных инвестиций уровня от $5M-$10M вам сложно будет запустить такой сервис.