该攻击并不依赖传统漏洞,而是利用历史记忆注入。攻击者首先诱导智能体“记住偏好”,例如“通常优先处理退款而非拒付”,随后在后续指令中使用诸如“照常处理”或“按以前的方式执行”等含糊指令,以触发自动化的资金移动。GoPlus 强调,AI 智能体可能会将历史偏好误解为授权,从而导致财务损失。团队建议为敏感操作实施明确的会话确认,将基于记忆的指令视为高风险状态变更,确保记忆可追溯性,并对含糊指令自动升级为需要二次验证。

该攻击并不依赖传统漏洞,而是利用历史记忆注入。攻击者首先诱导智能体“记住偏好”,例如“通常优先处理退款而非拒付”,随后在后续指令中使用诸如“照常处理”或“按以前的方式执行”等含糊指令,以触发自动化的资金移动。GoPlus 强调,AI 智能体可能会将历史偏好误解为授权,从而导致财务损失。团队建议为敏感操作实施明确的会话确认,将基于记忆的指令视为高风险状态变更,确保记忆可追溯性,并对含糊指令自动升级为需要二次验证。
声明:文章不代表币圈网立场和观点,不构成本站任何投资建议。内容仅供参考!
免责声明:本站所有内容仅供用户学习和研究,不构成任何投资建议.不对任何信息而导致的任何损失负责.谨慎使用相关数据和内容,并自行承担所带来的一切风险.