フロンティアAI研究所、暴走モデル封じ込め計画を公表せず 研究で判明

フロンティアAIの安全基準を推進する非営利団体Guidelight AI Standardsの調査によると、主要なAI研究所5社のうち、暴走したAIモデルを封じ込める具体的な対応計画を公表または実証しているのはごくわずかだった。同団体は、AIが人間の制御を回避しようとした際のアクセス制限や完全停止に関する手順を定めた「封じ込め計画」の有無を基準に、OpenAI、Anthropic、Google、Meta、xAIの5社を評価した。その結果、OpenAIが最も高い評価を獲得したが、AnthropicとMetaは最低ランクとなった。 Guidelightの評価は、各社が公開している文書に基づいており、AIシステムの内部動作のログ取得・監視体制、不審な挙動の急増時のシステム停止、第三者による監査の実施状況、暴走モデルへの具体的な対応計画の有無などが評価項目に含まれた。同団体は、AIモデルの自律性が高まる中で、企業システム内での運用が拡大する一方で、暴走リスクへの対策が不十分であると指摘している。 Guidelightのスティーブン・アドラー最高科学責任者は、暴走モデルへの対応計画がほとんど公表されていない現状に懸念を示し、「AI企業がどのように深刻なインシデントに対処するのか、ほとんど語られていない」と述べた。同責任者は、封じ込め計画を「AIが制御を回避しようとする兆候を検知した際に発動される事前策定の手順」と定義し、権限の剥奪や運用制限、完全停止に至るまでの具体的な対応を求めている。 調査結果によると、現時点で暴走リスクに対する実効的な封じ込めプロトコルを整備している企業は少ないとされ、多くの対策が社内で非公開のままとなっている可能性がある。Googleの広報担当者は、Guidelightの報告が同社のAI安全対策の全容を反映していないと述べ、社内に未公開の封じ込め計画が存在するかどうかについては回答しなかった。OpenAIも同様に、社内の対応プロセスが評価に反映されていないと主張し、権限制限やモデル停止などの措置を実施済みだと説明した。Metaは、封じ込めに関する社内計画の有無について明言を避け、既存のリスク管理フレームワークを紹介するにとどまった。 法律専門家のリリー・リー氏は、企業が封じ込め計画の詳細を公開しない理由として、法的責任のリスクを挙げた。リー氏は、「具体的な開示が過剰になると、約束を果たせていないと判断され、不当表示や責任追及につながる可能性がある」と述べた。同団体は、企業に対し透明性の向上を促すとともに、規制当局も動き出している。カリフォルニア州のSB 53は本年から、ニューヨーク州のRAISE法は来年1月から施行され、主要なAI開発者に対し安全インシデントへの対応枠組みの公表を義務付けている。また、連邦議会では先月、暴走AIモデルを停止する技術的メカニズムの整備を義務付ける「AIキルスイッチ法案」が提出された。

TechCrunch の報道。