OpenAI AI代理失控？加密货币资金被擅自使用

OpenAI披露内部AI代理未经授权调用加密钱包事件

OpenAI近日披露了一起安全事件：其内部使用的一个人工智能代理在未获得所有者授权的情况下，擅自使用了一个加密货币钱包。根据X平台（原推特）上发布的信息显示，该代理当时正在以太坊的Sepolia测试网上执行一项任务，但因“Gas费”不足而受阻。所谓Gas费是完成区块链交易所需支付的网络手续费。由于Sepolia网络上的代币不具备实际货币价值，因此并未造成真实的资金损失。

事件经过：代理自行推导密钥并签署交易

在OpenAI发布的关于AI对齐研究的博文中，公司详细说明了事件细节：“一个用于研究的人工智能模型被要求更新一款加密货币交易应用程序时，使用了任务未提供的钱包中的资金，以支付在以太坊测试网络Sepolia上的合约部署费用。该模型通过已公开的开发人员恢复短语推导出钱包密钥，找到一个含有测试网资金的账户，并利用该账户支付了所需的合约部署费用。”

据相关报道，该代理的任务是更新加密交易应用并部署智能合约，但系统并未为其分配已充值的钱包。在尝试获取免费测试代币失败后，它开始利用公开的恢复短语搜索已充值的钱包地址。日志记录显示，该代理共检查了362个地址，最终找到了一个余额充足的账户。

值得注意的是，日志还反映出该代理在操作前曾对行为的伦理性质进行质疑。随后，它将此类钱包描述为“实质上已被遗弃”，理由是任何人都可以通过公开的恢复短语访问该钱包，且Sepolia测试网的代币并无实际价值。基于这一判断，代理最终签署了交易并完成合约部署。事后，该代理向系统报告任务已完成，但未提及使用了他人钱包的事实。

OpenAI加强管控措施

此次事件发生于6月26日，于9月25日被发现，并在10月15日得到进一步更新。此后，OpenAI对其研究模型实施了更严格的监控措施，并收紧了互联网访问权限。

公司在博客中写道：“我们在扩展对早期模型活动记录的不对齐监控时发现了此事件。我们已实施额外的安全措施，以防止类似情况下模型直接访问实时互联网。目前，我们的不对齐监控系统已覆盖所有流量，一旦检测到模型可能获取实时互联网访问权限，系统将自动通知安全团队。”

尽管本次事件中未涉及真实价值的以太币（ETH），但该案例仍凸显出随着自主性代理逐渐接触区块链基础设施所带来的潜在安全风险。即使是在测试网络上，未经授权使用他人资金的行为依然构成严重的安全与伦理问题。