Какие настройки безопасности стоит произвести для Ubuntu-сервера?
Сделайте вход по ключам- и безопасней, и удобней чем пароли набирать.
А в остальном - если нет каких то специфических требований к безопасности, все в порядке из коробки.
по максимум - deny all в iptables по всем адресам, allow для вашего внешнего ip. И да, не стандратные порты apache, mysql, etc