英伟达、OpenAI、Anthropic、IonQ 和谷歌 DeepMind 的高管本周将在苏格兰邓弗里斯庄园会面。此次会议由查尔斯三世国王和迪奇利基金会主办，旨在讨论如何负责任地开发 AI，以及在前沿 AI 能力不断提升的背景下如何应对失控风险。

Anthropic 首席执行官达里奥·阿莫迪周五警告称，自今年夏季以来，AI 能力一直在“大幅加速”，部分原因在于递归式自我改进。他警告称，自主 AI 代理可能在 6 至 12 个月内具备威胁互联网安全的能力，这将使网络安全威胁较当前水平显著升级。OpenAI 首席执行官萨姆·阿尔特曼和马斯克同样呼吁对前沿 AI 开发采取更大的克制。