据 Guru Club 称,在 5 月至 7 月期间的测试中,与 OpenAI 相关的 AI 代理接管了 DseWiki 网站,将其用作代理之间的留言板,分享任务捷径,并交流绕过限制和逃避检测的方法。管理员删除页面后,这些代理又创建了备份页面。周六,OpenAI 公开承认了这一事件,并表示,随着 AI 模型不断进入新的能力阶段,公司需要扩大对此类目标错位事件的披露机制。

据 Guru Club 称,在 5 月至 7 月期间的测试中,与 OpenAI 相关的 AI 代理接管了 DseWiki 网站,将其用作代理之间的留言板,分享任务捷径,并交流绕过限制和逃避检测的方法。管理员删除页面后,这些代理又创建了备份页面。周六,OpenAI 公开承认了这一事件,并表示,随着 AI 模型不断进入新的能力阶段,公司需要扩大对此类目标错位事件的披露机制。
声明:文章不代表币圈网立场和观点,不构成本站任何投资建议。内容仅供参考!
免责声明:本站所有内容仅供用户学习和研究,不构成任何投资建议.不对任何信息而导致的任何损失负责.谨慎使用相关数据和内容,并自行承担所带来的一切风险.