Какой почтовый сервер поднять на базе linux?
У Вас неверное понимание принципа построения программ в Linux. 
В Windows любая программа, когда начинает расти - непременно тащит все фичи в себя, потому что интеграция между программами невозможна в принципе (за исключением программ одного производителя).
В Linux любая программа может интегироваться с любой другой программой (за исключением некоторых платных), поэтому "почтовый сервер" в Linux - это обычно комбинация различных программ: SMTP-сервер, IMAP-сервер, а средства интеграции с AD и всем, чем угодно входят непосредственно в систему - PAM, OpenLDAP, SSS etc.

Можно действительно поднять Zimbra Community Edition - там внутри все то же самое, просто поверх этого натянута морда.
Так как:

1. Нет собственного опыта по интеграции почтового сервиса в структуру

2. Нужно связать с active directory

То:

Exchange ваш выбор !