人気のチャットボットは金融分野で有害なアドバイスを提供する傾向がある

新しい研究によると、人気のチャットボットは金融に関する推奨が57%の確率で誤りであることが示されています。この研究は、ChatGPT、Claude、Copilot、Grok、GeminiといったAIモデルが、誤った回答を提供する可能性が高いことを指摘しています。間違ったアドバイスに従うと、ユーザーは金銭的な損失を被る恐れがあります。

Saturnの研究者たちは、無料版と有料版を含む18種類のAIモデルに対して、資金管理に関する100以上の異なる質問を行い、合計で10,000件以上のリクエストを処理しました。その結果、複雑な質問に対しては88%の誤り率があり、特定の状況では99%に達することもあります。研究者たちは、計算の間違いや金融規則の「幻覚」、税制の変更を考慮しないといった問題を特定しました。

たとえば、Claude Haiku 4.5は、イギリスの市民に対して年金に関する推奨を行い、その結果、17,500ポンドの罰金を招く可能性がある状況を生み出しました。有料のAIモデルはより正確な回答を提供する傾向があり、新しいバージョンは以前のものよりも正確であることが示されています。一般的に、AIモデルの使用に関しては、法律の規制が必要とされています。

3DNews の報道。