Как автоматизировать установку программы?
Нужно установить эту программу на компьютер, отслеживая изменения в системе которые вносит установщик  с помощью программ SysTracer, Process_Monitor.
После чего написать свой установщик который будет производить нужные изменения в системе.
Один из вариантов , посмотреть что за установщик используется и если есть тихий режим использовать его.
Второй вариант использовать https://www.autoitscript.com/site/autoit/ , вплоть до нажатие кнопок итд.