Какой почтовый сервер поставить на Веб-окружение Linux?
Не лучшее решение ставить почтовый сервер на сервер с битриксом. 
Почтовые сервера могут занимать десятки гигабайт, учитывая все логи и это для нескольких десятков пользователей уже за пол года работы. Если у вас стоит такая задача в целях безопасности (хранение и обработка писем именно на своем железе на своей програмной платформе) то выделить на это отдельный сервер было бы предпочтительней. Взломав без труда дырявый Битрикс, получить доступ к серверу и почте не так уж и сложно. Естественно битрикс можно и нужно максимально изолировать но никто не отменял другие дырки. Учитывая что Битрикс до сих пор ставится из коробки на старую версию CentOS и со старой версией php... Это мое ИМХО.
И традиционно с почтой могут быть разные проблемы, если все собирать на opensource продуктах, быть готовым иногда разбирать довольно нетривиальные задачи и думать почему те или иные ребята считают ваш сервер спамерским, и как выпидиться из black ip\domain list крупнейшего почтовика google или какого у вас из-за одного неправильного заголовка не принимаются письма на яндексе. Все это хорошо и круто, но я настоял на использования Exim транспорта к SMTP серверам Яндекс и других почтовых провайдеров.
Если после этого всего вас не остановить: 
Неплохое решение, www.zimbra.com - визуально выглядит лучше всего, ставится на CentOS
Можно попробовать и настроить www.iredmail.org, про него не скажу.
ты знаешь   отойдя от msmtp битрикс вм  кастомится, больше кастома тяжелей обновлять.
Так же встанут реальные трудности с DKIM DMARC и так далее, посколкьу если опставить самих демонов можно, и прописать ручками тоже все можно, Но про автоматизацию и обновления можно смело забыть.
В таком вопросе внешний сервис смотрится очень даже достойно ;(.