Какие связки софта и плагинов к нему используются для рендеринга 3d геометрии в вектор?
Например Blender это умеет.
Как вариант рабочий опробованный лично способ:
Любой 3д редактор и рендер с toon шейдером или своим кастомным шейдером.
Вывод в битмап,потом пакетная обработка potrace(в случае секвенции анимации).