Google DeepMind 研究数百万 AI agents 并存未来的潜在风险
2026-06-11 · MIT Tech Review AI · 原文链接
Google DeepMind 正在资助一项关于新兴 AI 风险的研究：当数以百万计的自主 agents 开始在互联网上彼此互动时，可能会发生什么。其核心担忧在于，这些 AI 系统能够在几乎没有人工监督的情况下完成任务，还可能接受其他 agents 发出的指令。负责 Google DeepMind AGI 安全与对齐研究的 Rohin Shah 表示，这种正在形成的生态系统，可能会在大规模运行时带来全新且难以预测的问题。随着 AI agents 越来越接近大众市场应用，研究人员正关注它们的行为如何相互叠加、冲突，甚至失控，并演变成难以管理的局面。这也反映出业界日益增强的共识：先进 AI 的风险不仅来自单个系统，也可能来自庞大 agent 网络在复杂在线环境中的彼此影响。