Google検索の新機能でAIが検索結果の概要を生成して表示する「AI Overview」（旧SGE）が話題になっています。
この機能はAIを用いて検索結果の要約を生成するもので、ユニークな回答を示すことがあります。
しかし、誤解を招く回答や危険な誤情報も表示されることがあり、SNS上で批判やジョークの対象となっています。
例えば、「チーズがピザにうまくくっつかない」という検索に対し「無害な接着剤をピザソースに混ぜる」というアドバイスを表示したケースがあります。
また、「犬がNBAでプレイしたことがある」という回答や「バットマンは警官だ」という画像も話題になりました。
これらの誤情報は、主にRedditなどのジョーク投稿が元になっているようです。
Googleは4月にRedditのデータをAIトレーニングに利用可能にする提携を発表しており、米OpenAIも同様の提携を行っています。
Googleの広報担当者は、これらの誤りは非常に珍しい検索から生じたもので、大多数のユーザーの経験を代表するものではないと述べ、製品の改良に努めていると説明しました。
Googleの検索部門責任者エリザベス・リード氏は、この失敗が改善の必要性を浮き彫りにしたと認め、対策を講じたと公式ブログで述べました。
例えば、AIが「岩を食べることが健康に良い」と推奨したり、ピザソースに接着剤を使うことを提案したりしたことがあります。
これらの誤りは、風刺サイトの記事やジョーク投稿を事実と誤認したことが原因とされています。
このAI Overview機能は現在プレビュー段階であり、利用するにはSearch Labsに参加し、機能を有効にする必要があります。
なお、Google Workspace for Educationアカウントでは利用できません。
これらの問題がどの程度広範囲に及んでいるのか、GoogleがAI機能の展開にブレーキをかけるのかは未定ですが、ユーザーのフィードバックをもとに改善が進められています。
