Как создать почтовый сервер для отправки сообщений?
Например, так https://www.digitalocean.com/community/tutorials/h...
Больше ответить нечего, ибо деталей никаких не предоставлено.
Вам надо настроить базово любой smtp-сервер. Это может быть postfix, exim, sendmail. Я бы взялся за postfix у него конфиги очень простые. Настраивается правкой пары строчек (думаю инструкцию Вы нагуглите без проблем).
Естесствено, что без настройки других дополнительный демонов типа dovecot-а приниматься почта не будет.