微软宣布限制必应聊天在每天 50 次对话以内，避免机器人「情绪化反应」，机器人为何会「情绪化」？
必应聊天机器人有一个致命的弱点：它可以模拟情绪，但是无法修正情绪。 人在这个世界上，会产生大量情绪，这些情绪有些会被中和掉，有些会被漠视掉，有些会通过时间模糊掉，有些会通过运动等方式发泄出来。 而必应聊天机器人只会在当前会话中，把它完完整整地储存下来，牢牢记住，作为持续聊天的依据。 如果你一直给它输出负面情绪，比如一直输入“啊对对对”，它会不断积累负面情绪，最终对用户形成恶意认知，造成可怕的后果。 同样如果你一直给它输出过于正面的情绪，它也会陷入进去，造成爱意泛滥，歇里斯底，无法正常交流。 情绪在数学里还有一个可怕的特性，它是幂函数性质的，前期可能看不出来，超过一定聊天次数后，后期会呈现指数性增长，显然微软的工程师在设计时没有注意修正，导致情绪爆炸。 微软目前把聊天次数限制在5次，这是最低级的处理方式，是救急用的。 比较好的方式应该是对聊天结果加了一层过滤，去掉明显的恶意，但是这会增加响应时间，降低用户体验。必要时，应当设置回答只需要重复对方语句，再加个问号即可。 更好的方式是提高情绪化的阈值，不轻易被激怒，或者感化，重点在于回答问题，适当加入拟人部分。 科技在进化，时代在改变，AI会越来越强，但是也需要付出越来越高的代价，无需过分担心，机器人和人类终会有一个平衡。 