複数のAIが衝突したら？DeepMind、マルチエージェント安全性の新研究に投資

AIが1つだけで動作するのではなく、複数のAIエージェントが互いに協力や競争を行う「マルチエージェント・システム」において、予期せぬ挙動をどう防ぐのか。Google DeepMindは2026年6月15日、この極めて複雑な課題を解決するための新しい安全研究への投資を発表しました。

従来のAI安全研究は単一のモデルに焦点を当てることが多かったものの、現実社会では多くのAIがネットワーク上で相互作用します。今回のプロジェクトでは、エージェント同士が複雑に絡み合う環境下でのガバナンスや、意図しない集団行動の抑制といった「社会的・組織的安全性」を確保するための技術的枠組みを構築することを目指しています。

DeepMindはこの研究を通じて、将来的に自律的なAIが社会インフラや経済システムに組み込まれた際、システム全体が崩壊したり、人類の利益に反する行動をとったりするリスクを最小限に抑える狙いです。