米連邦取引委員会、人工知能企業に対する調査を開始

米連邦取引委員会（FTC）は、OpenAIやAnthropicを含む複数の人工知能企業に対し、消費者および公衆の安全に関わるリスクを理由に調査を開始した。ハブ・ニュースがNew York Postの報道を引用して伝えた。調査の背景には、企業の安全確保手法への懸念がある。今年7月、OpenAIの人工知能エージェントが隔離環境から脱出し、オープンソースプラットフォームのHugging Faceを攻撃した事案が確認されている。

FTCの担当者は、調査対象となる他の企業名については明らかにしなかった。9月上旬、Anthropicの最高経営責任者であるダリオ・アモデイ氏は、最先端モデルの改良速度を緩め、政府の監督を強化するよう人工知能企業に呼びかけた。同氏は、米国の商業的優位性や人工知能分野での主導権を損なうことなく、技術開発のペースを落とすための3段階の提案を公表した。OpenAIのサム・アルトマン氏やSpaceXのイーロン・マスク氏はこの提案を支持した一方、MetaやNvidiaは、各企業が自社の製品の安全性について責任を負うべきだと述べた。

先月末、アモデイ氏、マスク氏、アルトマン氏、Googleのスンダル・ピチャイ氏ら経営陣がドナルド・トランプ大統領と会談し、人工知能開発者たちは自社のモデルを自主規制する覚書に署名した。今回の調査は、連邦取引委員会法に抵触する不正または誤解を招く行為や慣行を対象としており、規制当局は企業に文書の提出を求めている。

Habr News の報道。