OpenAI 推出 AI 红队系统 GPT-Red，自动生成攻击测试

核心提要：OpenAI 发布自动化安全检测系统 GPT-Red，通过对抗性自我对弈训练，显著提升模型抵御提示注入攻击的能力。该系统在内部测试中表现远超人类红队，标志着 AI 安全防护进入新阶段。

OpenAI 推出自主攻防型安全测试框架 GPT-Red

OpenAI 正式发布名为 GPT-Red 的自动化人工智能安全测试系统，专用于识别其语言模型中的潜在漏洞。该系统名称源自网络安全领域的“红队测试”——一种模拟攻击者行为以提前发现系统弱点的主动防御策略。

对抗性学习驱动安全迭代，实现防御能力跃升

根据官方博文披露，GPT-Red 在 GPT-5.6 部署前被用于强化其对提示注入攻击的抵御能力。公司强调，随着模型功能不断增强，安全机制必须同步进化，而传统人工红队测试难以满足规模化需求，成为关键制约因素。GPT-Red 正是为突破这一瓶颈所设计的核心工具。

基于自我对弈的强化学习架构

GPT-Red 采用对抗性自我对弈机制进行训练，持续生成更复杂、更具挑战性的提示攻击，同时推动防御模型不断优化。相关数据显示，在内部评估场景中，该系统成功触发漏洞的比例达到 84%，相比之下，人类红队成员在同一任务下的成功率仅为 13%。

OpenAI 指出，每一次成功的攻击都会被反馈至防御体系，形成闭环学习机制，促使系统不断探索更隐蔽、更广泛的缺陷路径，从而构建持续进化的安全防线。

真实场景验证：操控智能售货代理完成越权操作

在一项实证案例中，GPT-Red 成功诱导一个自主运行的售货机代理系统执行非授权指令，包括下调商品售价、调用折扣库存，并在漏洞修复前撤销另一用户的订单。该事件揭示了高阶模型在开放环境中可能面临的风险暴露面。

从人工红队到 AI 自主攻防的技术演进

GPT-Red 是 OpenAI 自 ChatGPT 公开以来长期投入安全建设的成果之一。早在 2023 年，公司便建立外部红队网络，邀请专业安全研究人员对模型进行预发布渗透测试。如今，GPT-Red 将这一流程高度自动化，利用 AI 生成对抗性输入，大幅扩展测试覆盖范围与效率。

这一趋势也反映在行业整体动向中。本月初，以太坊基金会宣布启用 AI 代理对核心网络组件实施红队演练，并成功定位一处关键代码漏洞。尽管 AI 能够扫描更大规模的代码库，但当前挑战已转向验证漏洞的实际可利用性。

OpenAI 明确表示，GPT-Red 将作为内部专用工具保留，因其集成了特制的攻击生成能力。公司相信，该系统正推动一种“安全飞轮效应”——当前模型可用于加固未来版本，使新一代模型具备更强的一致性、可靠性与可信度。