AI代理潜在安全漏洞引发关注

以太坊联合创始人 Vitalik Buterin 近期在 X 平台发文，强调在确保系统安全、去中心化及用户隐私的前提下，防范人工智能代理遭遇对抗性攻击仍面临显著挑战。他指出，当前自动化代理在处理用户交互时，可能因解析恶意信息而产生不可控行为。

ENS资料中的隐藏风险

Vitalik 举例说明，当用户的 AI 代理自动查阅对方的 ENS 资料时，若该资料中嵌入了诱导性或越狱类指令，代理可能误判为合法请求，进而执行资产转移操作，导致用户资金被非法调拨。

人工确认机制的局限性

他认为，引入大额交易必须经过人工确认的机制，虽优于完全无确认的设计，但仍存在不足。这种机制难以覆盖所有高风险场景，且可能因用户疏忽或流程冗长而失效。

提升透明度是核心挑战

更深层次的问题在于如何向用户准确传达交易的实际内容。Vitalik 指出，这不仅涉及技术实现，更是复杂的用户体验设计难题——如何在不增加认知负担的前提下，让普通用户理解交易的本质与潜在后果。