Я бы согласился с аргументами Серля, если бы не существовала независимая от развития ИИ возможность деградации человеческой производственной деятельности до уровня обитателя китайской комнаты. Если привести деятельность, выполняемую человеком к небольшому набору инструкций, методических указаний, то такая деятельность легко формализуется для выполнения ИИ в будущем.

Личный опыт общения со Сбербанком РФ (возглавляемым Г.Грефом), говорит о том, что действия, совершаемые ПО в автоматической режиме (например, блокировка карт) не могут быть объяснены или предсказаны персоналом службы поддержки. Служба поддержки работает четко по инструкции и в объеме своих функций. А ваши некоторые действия могут привести к блокировкам.

Я не даю оценки, хорошо это или плохо со стороны уважаемого банка. Я лишь говорю о том, что ряд видов операционной деятельности и службы поддержки сведен до уровня обитателя китайской комнаты. И не играет никакой роли, кто в ней находится, человек или компьютер.