В чем моделировать ПЛИС Xilinx?
В состав Xilinx ISE и Xilinx Vivado входит симулятор Isim. Для простых и средних задач его функционала хватает. Любая из этих IDE также поддерживает моделирование в Modelsim, но особых надобностей в более мощном, но тоже платном Modelsim у меня пока не возникало.
Кстати. Не могу быть уверенным, но насколько мне известно, Xilinx предоставляет 30-дневный trial на свои продукты - так что можете попробовать моделировать свой исходной код под Xilinx.
Также, стоимость IDE зависит от комплектации, а для простых задач вполне хватает уже не поддерживаемой более Xilinx ISE (работает с ПЛИС серии Virtex4-Virtex7). Vivado поддерживает Virtex-7 и все следующие, какие появятся.
В состав IDE Vivado  входит все необходимое для моделирования. Чем именно моделируют - хз, но лицензия на вивадо стоит бешаных денег (3-5 тысяч долларов за место).