微软：与 AI 增强版必应长时间聊天会导致“翻车”
北京时间 2 月 17 日早间消息，微软近期启动了人工智能增强版必应的公开测试，但许多用户发现，新版必应在某些情况下会出现“精神错乱的”言论，甚至侮辱用户、撒谎，并试图操纵用户的情绪。微软官方回应称正在根据反馈采取行动，以优化回答的语气和准确性。微软同时警告称，较长的聊天会话可能会导致问题。
回顾最初 7 天的公开测试，微软必应团队表示，他们没有“完全预计到”，人们会使用聊天界面来进行“社交娱乐”，或是将其作为一种“全面发现世界”的工具。该团队发现，如果聊天会话持续 15 个或更多的问题，新版必应的模型会感到困惑。这些较长的聊天也会让必应“变得翻来覆去，或者受到刺激，做出不一定有帮助，或是与设计语气一致的回应”。
微软暗示，尽管文本输入框旁边有一个“新话题”按钮，可以用于清除聊天的历史记录，重新开始，但接下来还可能增加“一个工具，帮助用户更方便地刷新”聊天会话的上下文。
更大的问题在于，在这些提问较多的聊天中，必应经常会以不正确的语气回应，或是像微软所说的，以“我们不想要的方式”做出回应。微软表示，对大多数必应用户来说，只有长时间对话才会遇到这方面问题。不过，微软也在探索更多的“微调控制”，以避免必应对用户说，用户是错的，以及表现得粗鲁或试图操纵用户。在一些测试中可以看到，在关于必应本身的对话中，只要几个问题，必应就会以负面或存在敌意的语气来回复。
微软仍在努力优化必应做出回复的语气，而必应团队也在考虑提供更多的控制选项，用于设定人工智能的创造性和精确度。这种控制选项可能有助于避免目前的问题，例如必应会声称正通过笔记本摄像头来刺探微软员工，或是出现基础性的数学错误。
微软目前正在超过 169 个国家对新版必应展开测试，有数百万人正排队注册。微软表示，对答案的反馈有 71% 是正面的，一些用户甚至与新版必应进行了长达两个小时的对话，以测试服务的极限情况。
新版必应目前每天都在得到优化，一些技术问题在微软的日常版本发布中得到修复，还有一些问题则在每周发布的大版本中得到修复。微软正在尝试优化搜索和回答，尤其是围绕体育赛事比分数据，以及必应最近出现的一些财务数据错误。必应团队表示：“对于那些需要更直接、事实性更强的答案的问题，例如财报数字，我们计划将发给模型的基础数据增加 4 倍。”
微软还在观察对新功能的反馈，这些功能包括预订机票、发送电子邮件，以及分享搜索和答案等。目前尚不清楚，这些新功能最终是否会被加入到产品中，但必应团队表示，正在研究在未来的版本中包含这些功能。
相关文章
- 曝三星电子等晶圆代工厂开工率在下滑，甚至部分 8 英寸厂商已逼近 50%
- 博鳌亚洲论坛 2023 年会将于 3 月 28 至 31 日在海南举行
- 毫末智行推出全球首个自动驾驶认知大模型 DriveGPT，4 月公布最新进展
- AMC Networks任命Kristin Dolan为新首席执行官，将于2月27日接管公司
- 抖音电商举行“平台治理开放日”活动，展示治理成果
- 自由制作地图，联机闯关，腾讯内测闯关手游《代号：BOX》即将推出
- 360公司2022年净亏损近25亿元，回应不为短期收益抱残守缺
- 印度央行公布支付聚合许可证，Google Pay、Amazon Pay上榜
- 富士康扩大越南生产规模，租用45万平方米地块，租期持续到2057年
- 马斯克锐评人工智能：是人类最大的威胁之一，程度超过核技术
- 芯片巨头台积电失宠，狂甩其股票的不只有巴菲特
- 中国移动赵大春：千兆网络的发展水平直接关乎城市长远发展速度和质量
- 亚马逊降本新计划：将砍掉欧洲中间商，鼓励其转为第三方卖家
- 硅晶圆现货价格下降，长约客户延迟拉货
- 互联网之父警告：不要因为ChatGPT“很酷”就急于投资AI
- 消息称 Reddit 计划于今年下半年 IPO
热门教程
Win11安卓子系统怎么安装和卸载安卓APK
2系统之家装机大师怎么用？系统之家装机大师使用教程
3Win11正式版怎么安装安卓APK应用？Win11安装安卓APK文件方法
4Win11资源管理器的样式如何切换？Win11资源管理器样式切换方法
5Win11怎么装抖音APP Win11安装抖音APP教程
6Win11蓝屏怎么修复？win11蓝屏修复教程
7Win11电脑下载的文件被自动删除怎么办？
8Win11正式版如何固定“此电脑”到任务栏？
9老电脑怎么装win11系统？老电脑一键升级Win11系统教程
10Win10和Win11哪个好用？Win10和Win11区别介绍
装机必备 更多+
重装教程
大家都在看
电脑教程专题 更多+