根據Google DeepMind最新研究，人工通用智能（AGI）可能不會以單一模型的形式出現，而是由多個專家代理協同工作形成的集體智慧。這項研究提出，AGI的出現可能依賴於專業化的AI代理，這些代理各自專注於特定任務，並透過協作展現出更廣泛的智能能力。研究指出，傳統安全工作假設存在一個強大的AI系統，但這一觀點被推翻，風險從對齊單一智能轉向治理代理之間的互動。這種集體行為可能超出個別控制，並且新興的智能可能會被忽視。為了應對這一挑戰，研究建議安全措施應針對系統而非模型，包括控制代理市場、建立代理的聲譽和身份、設置審計紀錄和斷路器，以及設計懲罰不安全協作的激勵機制。