Имитационное моделирование или гейм-движок?
В Матлабе (Симулинке) есть
1) Driving Scenario Designer
2) 3D-редактор
А уж модели (физика, уравнения) - какие угодно применяйте. (мне нравится алгоритмы описывать в графе состояний Stateflow)
А гейм-движок по сути это и есть имитационное моделирование. Только разукрашенное разными картинками и с существенно заниженными требованиями к точности.