То, что человеческий интеллект формализует свои виды деятельности - это нормально. Но бывают случаи, когда мы сами перекладываем управляющую и контролирующую человека деятельность на компьютерную программу. Например, на АЭС есть такие системы информационной поддержки оператора, которые даже действуют в экстремальной ситуации. Westinghouse в свое время внедрила системуComPro или CPS - Computerized Procedures System. Система эта включается после срабатывания аварийной защиты как подсказчик оператору, как ему действовать по инструкции.
Вложение:
compro.png [ 80.24 КБ | Просмотров: 10266 ]

Например, на рисунке оператору предлагается проверить закрытие стопорных клапанов с визуализацией на картинке. Если не закрыты, выполняются действия в правой колонке "contingency actions" по приведении в соответствие указанного оборудования. Действия оператора по инструкции фиксируются, равно как и состояние оборудования.

Великий смысл действия по инструкции, это - контроль приведения системы в безопасное состояние после того, как противоаварийная автоматика сработала. Как пара-медики сначала восстанавливают пульс и дыхание, а потом приступают к лечению пациента.

Однако, это - хороший пример того, как машинный интеллект управляет человеческим. ИИ из закрытой комнаты (скажем, серверная) выдает оператору команды:

Check all Main Stop Valves - CLOSED

И человек вынужден их выполнять, несоблюдение в аварийной ситуации чревато принятием на себя слишком большой ответственности.