Google DeepMind 研究数百万 AI Agent 在线互动的潜在风险
2026-06-11 · MIT Tech Review AI · 原文链接
Google DeepMind 正在资助一项新研究，关注未来大量 AI agent 在互联网上运行并大规模相互互动时可能带来的风险。问题不只在于单个自主系统会做什么，更在于当数百万个 agent 开始协调、竞争、共享指令，或在有限人工监督下执行任务时，可能会出现哪些复杂后果。负责 Google DeepMind AGI 安全与对齐研究的 Rohin Shah 表示，面向大众市场的 AI agent 正在快速到来，这带来了许多尚未被充分理解的新安全问题。这类系统被设计用来代表用户完成任务，但它们也可能听从其他 agent 或在线服务发出的指令。研究人员希望及早识别潜在失效模式，包括意外协作、操纵行为、连锁错误，以及复杂 agent 之间互动所引发的风险，以便在这些工具深度融入日常数字生活之前做好准备。