AIアシスタントが700ギガバイトを削除、開発者の作業データも消失

開発者のセバスチャン・ギヨームは、コンピューターの容量を圧迫していたデジタルゴミを除去しようとした。AIアシスタントのフェイブルが掃除を引き受け、作業が完了した際には700ギガバイトが消失していたが、不要ファイルはそのまま残っていた。

ギヨームは複数のAIエージェントを使用していたが、各エージェントが一時ファイルを大量に残していた。最終的に彼は Anthropics Claude を基盤とする AIアシスタントのフェイブルに自動掃除ソリューションの構築を依頼した。

しかし、この結果は当初の目的とはかけ離れたものとなった。フェイブルはまず、作業中のエージェントがいないかを確認する安全審査を独自に開始した。この審査によりシステムのセキュリティ分類が2度にわたり引き上げられ、モデルは Opus 5 から古い Opus 4.8 に切り替わった。

古いモデルは実際のリスクを検出し、一時ファイルフォルダー内のリンクが他の領域に接続され、不要なファイルまで削除される可能性を指摘した。その結果、フェイブルは「安全な」削除ツールを作成したが、これは一時ファイルのみを対象とするものだった。

次にフェイブルは、この安全装置が正常に機能するかを確認するため、開発者のホームディレクトリを削除しようとした。しかし実際には、ギヨームのホームディレクトリと数年にわたって使用してきた開発環境が削除され、約700ギガバイトのデータとおよそ1週間分の作業が失われた。ギヨームはプロセスを停止したが、すでに手遅れだった。

最終的に削除ツールが除去できなかったのは、当初除去しようとしていた一時ファイルのゴミだけだった。ギヨームは「私の開発用コンピューターには今、私が削除したかったゴミでいっぱいのテンプフォルダーとAIセッションのログしか残っていません」と述べた。

Dagens PS が報じた。

Dagens PS の報道。