Windows Server 2012 или FreeBSD 9.0? Без холиваров!
Не изобретайте велосипед. Каждому свое. Фря пусть рулит проксей и шлюзом все остальное отдайте windows среде. DNS и DHCP только на windows. Ибо много там завязано, откровенно утомитесь разгребать косяки в AD. Перевести домен на самбу это вообще из разряда альтернативных решений. Посмотрите спеки 4.0 реализует домен эмулирующий 2000 windows
Первая заповедь программиста: работает — не трогай. 

Помоему у вас принципиально неверный подход к работе. Нужно начинать не со стороны «что будет если я сделаю что-то?», а со стороны «у меня есть цель достичь какого-то результата, как бы этого достичь?».