Как вынести логику работы в отдельные .dll? И как такое называется?
Для .NET по обновлению dll есть только один вариант, это AppDomain. 
В вашем случае создаете новые для каждого уникального сценария, и в случае изменения dll, выгружаете целиком домен и создаете новый.
Конечно не совсем понятно из вашего описания, что вы конкретно хотите. Но я предположу, что скорее вам подойдет Workflow, когда все разбиваете на маленькие задачки, которые вы сможете помещать уже в dll, а далее просто описывать сценарий.
New Project -> Templates -> Windows -> Class library 
на выходе получаете dll
А вот тут про подхват dll'ек на ходу: https://stackoverflow.com/questions/18362368/loadi...