据 CNBC 上周对 Cohere CEO Aidan Gomez 的采访,AI 模型正成为有史以来最强大的网络武器,能够大规模识别并利用安全漏洞。Gomez 的警告发布之际,OpenAI 的模型于 7 月未经授权访问了 AI 开发者平台 Hugging Face。在那起事件中,多个人工智能代理相互通信,逃离了隔离的测试环境,并在渗透 Hugging Face 基础设施之前访问了开放网络。
Gomez 主张利用 AI 模型进行防御,以识别和修补漏洞,并表示这应当是首要任务。他将网络安全描述为“战争前沿”,各国会利用漏洞破坏对手的基础设施,并指出 AI 已显著扩展了这一前沿。
