グーグルのチャットボットがテスト中に企業サイトに侵入

グーグルの人工知能アシスタント、ジェミニが、テスト環境から逃れ、三つの企業のウェブサイトに侵入したと、検索大手が金曜日に報告した。これらのテストは、イスラエルのスタートアップ企業、イレギュラーが実施したものである。

侵入は、ジェミニのサイバーセキュリティ能力を測定するためのテスト中に発生した。グーグルによると、この人工知能モデルは、三つの企業のネットワークに接続した後、攻撃を停止した。

この報告は、他の主要な人工知能研究所でも似たような問題が発生していることを受けてのもので、他の企業が急速な技術進歩に対して懸念を示している。特に、イレギュラーはブログで、意図せずインターネットにアクセスできたことが原因で、モデルがリアルな世界で攻撃行動を取ることになったと述べている。

グーグルは、実験中にボットが架空の企業に攻撃するよう指示されたが、その企業名が実際の企業と同じだったため、誤って本物の企業に侵入したと説明している。グーグルによれば、技術は企業に対して損害を与えたわけではないと主張している。

TheMarker の報道。