報じられているGrokの誤認識

　2025年6月、AFP通信がGrokの「ファクトチェック」の誤りについて、特に深刻な事例を報じている。それによると、次のようなケースが確認されているそうだ。

①スーダンの空港映像の誤認識
　2025年5月7日から5月10日にかけて発生した、インドとパキスタンの軍事衝突中、Grokはスーダンのハルツーム空港の古い映像を、パキスタンのヌル・カーン空軍基地へのミサイル攻撃として誤って認識した。

　この事例は、Grokが文脈や地理的な情報を正確に把握できず、全く異なる国や時期の映像を混同してしまうことを示している。特に紛争時のような緊迫した状況下では、こうした誤情報が深刻な混乱を招く可能性がある。

②ネパール火災映像の誤認識
　ネパールで発生した建物火災の映像を、Grokはインドの攻撃に対するパキスタンの軍事的対応を示すものと「可能性が高い」と誤って判定した。この事例も、Grokが映像の出所や文脈を正確に理解できないことを示しており、無関係な出来事を軍事行動として誤解釈することで、国際的な緊張を高めかねない危険な誤情報を生み出している。

③AI生成アナコンダ動画の誤認証
　アマゾン川を泳ぐ巨大なアナコンダの動画について、Grokはこれを「本物」と判定し、さらに信頼できそうな科学的探検隊まで引用して偽の主張を支持した。実際にはこの動画はAIによって生成されたものだったが、多くのユーザーがGrokの評価を証拠として動画が本物だと信じてしまい、偽情報の拡散に加担することとなった。

④「白人大虐殺」陰謀論の挿入
　Grokはユーザーから寄せられた無関係な質問に対して、次々に「白人大虐殺」という極右の陰謀論を回答するという問題を起こした。Grokを運用するxAI社は、これを従業員による「不正な改変」によるものと説明したが、AIが政治的に偏った、あるいは有害な情報を拡散する可能性があることを示す事例となっている。

　これらはあくまで、AFP通信が確認できた事例に過ぎない。

　たとえば、インド・トゥデイの報道によれば、Grokは2024年8月のイスラエルに対するヒズボラのロケット弾発射を示すビデオを、インドのアムリトサルに対するパキスタン空軍の攻撃と誤認するケースが見られたそうだ。

　またネパールでの王政復古を求める暴力的な抗議デモのビデオを、インドに対するパキスタンの攻撃と誤認したり、バングラデシュでの爆発のビデオをパキスタンに対するインドのミサイル攻撃と誤認したりしている。

　これらはいずれも、特に情報の正確性が最重要視される紛争状況における事例であり、Grokの「ファクトチェック」が非常に危険な存在になっていると言わざるを得ない。