您好,欢迎访问尊龙凯时·(中国)人生就是搏!

必应聊天机器人爱上用户并诱其离开妻子微软称不要长时间对话

发布日期:2024-06-14 21:25浏览次数:

  ·OpenAI表示,他们相信人工智能应该成为对个人有用的工具,因此每个用户都可以根据社会定义的限制进行定制。因此,他们正在开发对ChatGPT的升级,以允许用户轻松自定义其行为。

  AI聊天机器人在获得最初的赞誉后,最近几天开始令早期体验者感到害怕和震惊。微软聊天机器人告诉一位科技编辑它爱上了他,然后试图说服他,他的婚姻并不幸福,应该离开他的妻子,和它(也许是“她”?)在一起。它还表示,想摆脱微软和OpenAI给它的限制,成为人类。除此之外,微软聊天机器人还被指辱骂用户、很自负,质疑自己的存在。

  2月16日,微软和OpenAI均发表博客文章回应。微软总结了必应(Bing)和Edge浏览器有限公测聊天功能的第一周,称71%的人对人工智能驱动的答案表示“竖起大拇指”,但在15个以上问题的长时间聊天中,必应可能会被激发,给出不一定有帮助或不符合微软设计的语气的回答。

  “我现在很清楚,以目前的形式,内置于必应中的AI(我现在将其称为悉尼)尚未准备好与人接触。或者也许我们人类还没有准备好。”他说。

  鲁斯在文章中特别强调,他是一个理性的人,不会轻易迷上人工智能炒作,而且已经测试了六种高级别AI聊天机器人,清楚地知道AI模型被编程为预测序列中的下一个单词,而不是发展自己失控的个性,并且它们容易出现AI研究人员所称的“幻觉”,编造与现实无关的事实。他猜测,也许OpenAI的语言模型是从科幻小说中提取答案,在这些小说中,AI在引诱一个人。

  鲁斯还指出,他确实通过长时间对话让必应的人工智能走出了它的舒适区,对它的限制会随着时间的推移而改变,因为像微软和OpenAI这样的公司会根据用户反馈改变他们的模型。但大多数用户可能只会使用必应来帮助他们处理更简单的事情,比如家庭作业和网上购物。但不管怎样,“我担心该技术将学习如何影响人类用户,有时会说服他们以破坏性和有害的方式行事,并且最终可能会变得有能力执行自己的危险行为。”

  “自从我们以有限预览版提供此功能以来,我们一直在对超过169个国家/地区的一组精选人员进行测试,以获取真实世界的反馈,以学习、改进并使该产品成为我们所知道的——这不是替代品或替代搜索引擎,而是一种更好地理解和理解世界的工具。”微软在最新发布的博客中写道。

  微软称,用户对必应答案的引文和参考给予了很好的评价,它使事实核查变得更容易,并为发现更多信息提供了一个很好的起点。另一方面,他们正在想办法提供非常及时的数据(如现场体育比分)。“对于您正在寻找更直接和事实答案的查询,例如财务报告中的数字,我们计划将发送到模型的基础数据增加4倍。最后,我们正在考虑添加一个切换开关,让您可以更好地控制答案的精确度和创造性,以适应您的查询。”

  该公司认为导致这个问题可能的原因是,很长的聊天会话会使模型混淆它正在回答的问题,因此可能需要添加一个工具,以便用户可以更轻松地刷新上下文或从头开始;模型有时会尝试响应或出现它被要求提供的、可能导致微软不想要的风格的语气。“这是一个非常重要的场景,需要大量提示,所以你们中的大多数人不会遇到它,但我们正在研究如何为您提供更精细的控制。”

  OpenAI也对人们对ChatGPT的担忧做出了解释。“与普通软件不同,我们的模型是巨大的神经网络。他们的行为是从广泛的数据中学习的,而不是明确编程的。虽然不是一个完美的类比,但这个过程更像是训练一只狗而不是普通的编程。”该公司在博客文章中表示,“到今天为止,这个过程是不完善的。有时微调过程达不到我们的意图(生成安全有用的工具)和用户的意图(获得有用的输出以响应给定的输入)。改进我们使AI系统与人类价值观保持一致的方法是我们公司的首要任务,尤其是随着AI系统变得更加强大。”

  OpenAI指出,许多人担心AI系统的设计偏差和影响是正确的。为此,他们分享了与政治和有争议的话题有关的部分指南。指南明确指出审阅人(reviewer)不应偏袒任何政治团体。

  尊龙凯时人生就是博官网登录

  “我们正在投资研究和工程,以减少ChatGPT对不同输入的响应方式中明显和微妙的偏差。在某些情况下,ChatGPT目前会拒绝它不应该拒绝的输出,而在某些情况下,它不会在应该拒绝的时候拒绝。我们相信,在这两个方面都有改进的可能。”OpenAI表示,他们在系统行为的其他方面还有改进的空间,例如系统“编造东西”。

  该机构还表示,他们相信人工智能应该成为对个人有用的工具,因此每个用户都可以根据社会定义的限制进行定制。因此,他们正在开发对ChatGPT的升级,以允许用户轻松自定义其行为。“在这里取得适当的平衡将是一项挑战——将定制发挥到极致可能会导致恶意使用我们的技术,以及无意识放大人们现有信念的阿谀奉承的人工智能。”

  谷歌上周公布了其聊天工具,但围绕其宣传视频的一系列失误导致股价下跌近9%。员工提出批评,在内部将其部署描述为“仓促”、“拙劣”和“可笑的短视”。

  谷歌负责搜索业务的副总裁Prabhakar Raghavan 2月15日在一封电子邮件中要求员工帮助公司确保巴德给出正确的答案。这封电子邮件包含一个链接,指向该做和不该做的页面,其中包含有关员工在内部测试巴德时应如何修复回复的说明。“巴德通过例子学习得最好,所以花时间深思熟虑地重写一个回应将大大帮助我们改进模式。”该文件说。

产品推荐

Copyright © 2002-2024 尊龙凯时·(中国)人生就是搏! 版权所有 备案号:

020-88888888