当前位置: 首页 > 资讯 > 科技 > 苹果Apple Intelligence新增“反幻觉”指令,强化智能回复功能以抵制错误信息
  • 0
  • 0
  • 分享

苹果Apple Intelligence新增“反幻觉”指令,强化智能回复功能以抵制错误信息

苹果公司(Apple Inc) 2024-08-07 10:17:02 爱吃爆米花

8月7日消息,近日有网友在 macOS 15.1 测试版中发现了苹果公司为 Apple Intelligence 的智能回复(Smart Reply)功能设置的一系列内部指令。这些指令以 JSON 文件的形式存在,详细规定了该功能的工作流程。其中最引人注目的是,苹果明确要求系统“不要编造事实,不要产生幻觉”。

智能回复是苹果邮件应用的一项功能,旨在通过分析邮件内容自动生成可能的回复选项,这一功能的背后是苹果自研的智能技术。然而,与其他生成式 AI 一样,智能回复也面临着“幻觉”问题,即系统可能会生成虚假或误导性的信息。

为了防止这种情况发生,苹果在系统内部设置了严格的指令。根据泄露的指令,智能回复功能被要求仅提取邮件中明确提出的问题,并提供相应的回答选项。这一做法有助于减少 AI 在生成回复时的错误。

虽然苹果明确要求 AI 不要编造信息,但业内人士认为,要完全消除“幻觉”问题仍然面临挑战。因为生成式 AI 模型本质上并不理解文本内容,无法准确判断信息的真伪。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/73884.html
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换