問題が明らかになったGrokの「ファクトチェック」

　2023年11月、X（旧Twitter）のアプリ上で、「Grok」というAI機能が実装された。ChatGPTのような生成AI機能を実現しており、さまざまな質問をしたり、絵を描かせたりできる。

　当初は一部の有料ユーザーのみの提供だったが、2024年12月には制限付きで無料ユーザーにも開放され、現在では多くの人々によって利用されている。

　Grokの使い方のひとつとして定着しているのが、まさに「ファクトチェックに利用する」というものだ。

　内容をチェックしたいポストを指定し、GrokのXアカウント（@grok：https://x.com/grok）に対して「ファクトチェックしてください」などのようなメッセージ（チャット型生成AIサービスで言うところのプロンプト）をポストすると、それにリプライする形でGrokのXアカウントが結果を投稿してくれる。

　たとえば、次のスクリーンショットは、CNNのXアカウントに投稿された「ガザ支援物資配布地点付近で銃撃戦があり、多数が死傷したと保健当局が発表した」というニュースを指定し、Grokにファクトチェックを指示したものだ（筆者のアカウントを使って指示している）。

ギャラリーページへ

　このようにGrokが情報をまとめ、それに基づいて一定の答えを返してくれる。その内容が正しいものだったり、上のスクリーンショットのように、「いまは判断を保留した方が良い」というものだったりする場合には良いのだが、問題はこの回答自体に誤りが含まれている場合だ。

　実際に、そのような事態が多発しているのである。