AI同士の衝突を防ぐ—Google DeepMindが「マルチエージェント安全研究」への投資を強化

「単一のAI」の安全性だけでなく、「複数のAI」が相互に影響し合う未来の安全をどう守るか。Google DeepMindは、マルチエージェントAIシステムの安全性に関する研究投資を大幅に拡大することを発表しました。複数の自律型AIが共通の環境で動作する際、予期せぬ対立や社会的なリスクが生じるのを防ぐことが狙いです。

これまでのAI安全研究は、主に1つのモデルが人間の指示にどう従うかに焦点が当てられてきました。しかし、自動運転車や金融取引アルゴリズムのように、複数のAIが瞬時に交渉・競争する状況では、新しい次元の安全対策が必要になります。DeepMindは、この複雑な動力学を解明し、協力体制を構築するための基礎研究に注力することで、将来のAI社会の安定性を確保しようとしています。