微软给必应聊天机器人设限：防止AI越界

【ITcubs综合】2月18日讯 微软表示，在发现必应聊天机器人存在侮辱用户、欺骗用户，甚至操纵用户情感等失控行为之后，公司将对其人工智能实施一些对话限制。

当地时间周五，微软发布公告称，决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。如果用户触发五条回答的限制，必应将提示他们开始一个新主题以避免长时间的聊天。

据微软内部数据显示，绝大多数人都能在5次回复内找到他们想要的答案，只有大约1%的聊天对话会产生50条以上的消息” 。

当地时间2月7日，微软宣布推出搭载了AI技术的搜索引擎必应，新版本中引入了OpenAI旗下ChatGPT的相关技术，用户可以直接提出问题，搜索引擎生成答案。

新必应一经推出便吸引了全世界网友的注意力，上线48小时内，就有超过100万人注册测试这款聊天机器人。然而必应的“黑化”来得似乎比人们预想的要早一些，近日，有不少用户表示在和必应的交流过程中，发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。

在两天前的一篇博文中，微软介绍说，目前发现当必应回答了15个甚至更多问题后，可能会开始重复或被激怒，进而给出不符合程序设定的回答。

据CNBC报道，微软此前曾表示，改进AI产品的唯一方法，就是将它们推向全世界并从用户交互中学习。