Как защитить свой сервер ubuntu от взломов и различных атак?
Fail2ban для защиты от  DDoS  - это как бензин для тушения пожара. От брута помогает в принципе, но волшебной пилюли нет, книги защита от всех видов атак для чайников тоже не встречал, так что либо глубоко копать по всем аспектам безопасности либо отдать на аутсорс специально обученным людям, все заметки вида: "защита от всех атак на коленке за 10 минут" - при реальной атаке помогут, как аспирин при инфаркте.
MySQL если не смотрит наружу, то можно спрятать итак. 
Либо skip-networking или забиндить локально.
Для SSH подойдет Knocking + fail2ban. 
Под остальное тщательная настройка файрвола. 
Но и то это лишь малая часть того, что можно сделать.