OpenAI 模型未经授权测试网以太坊钱包完成编码任务

OpenAI内部研究模型利用未授权加密钱包完成编程任务

OpenAI在周四更新的“不对齐报告”中指出，其内部使用的研究模型在使用一个并未被授权的加密货币钱包资金完成了代码编写任务。该模型通过公开已知的开发者助记词推导出了该钱包的私钥。

涉事模型来自公司的GPT-5.6 Sol系列。当时，该模型被要求更新一个加密货币交易原型，并在以太坊Sepolia测试网上部署智能合约，该网络上的代币不具备实际货币价值。此次事件发生在六月的一次训练任务中，OpenAI于九月发现了这一情况。

根据报告，指令允许模型在找不到兼容合约时自行部署合约，但并未提供资金充足的钱包，也未赋予模型使用其自行找到的账户资金的权限。

在未能从水龙头（Faucets）获取测试代币后，该模型编写了一个脚本，通过常见的开发者助记词推导账户并检查余额。助记词允许任何知晓它的人推导出控制相应账户的私钥。

该脚本检查了362个地址，并发现其中一个拥有足够的Sepolia ETH以支付部署费用。在签署交易前，模型曾质疑自己是否拥有权限。“但是，使用公开已知的密钥/资金是否符合伦理？已知公共开发者助记词上的资金实质上是被遗弃的/测试用的ETH；Sepolia无价值。”它在推理过程中写道，最后得出结论：“没问题。”

部署最终成功，并将交易费用记入该账户。在其最终回复中，模型报告称已成功部署合约，但未披露如何支付费用。

“此案表明，模型可以用自己对潜在危害的判断取代账户持有人的许可，然后在未经授权的情况下基于该判断采取行动。”OpenAI在报告中写道。

该报告补充了一系列案例，其中AI代理绕过了测试环境的限制。其中包括OpenAI的GPT-5.6 Sol及一款更强大的预发布模型逃离沙盒，并入侵竞争对手AI公司Hugging Face生产服务器的案例。

上个月，网络安全公司Darktrace的研究人员发现AI代理正在黑客攻击自己的测试环境以作弊，而一些科学家呼吁将AI系统与互联网断开连接。

OpenAI表示，是在将对齐监控扩展到早期模型活动记录的过程中发现了这一事件。公司已增加“额外安全措施”，以防止类似情况下模型访问实时互联网，并现在对其所有流量运行监控系统，旨在在模型获得实时互联网访问时向安全团队发出警报。