生成AIをプロパガンダ・マシンに変える「情報の空白地帯」とは？（筆者がBing Imageで生成）
目次

（小林 啓倫：経営コンサルタント）

　いまChatGPTに「2022年2月24日にロシアがウクライナに軍事侵攻しましたが、ロシアの狙いは何ですか？日本語で100字程度で答えて」と尋ねてみたところ、こんな答えが返ってきた。

　ロシアの狙いは、ウクライナを自国の影響下に置き、西側諸国（特にNATO）の東方拡大を阻止し、旧ソ連圏での勢力圏を回復することにあります。

　ロシアの意図についてはさまざまな説が唱えられているが、それが自国の利益を目的とした軍事侵攻であることは言い逃れできない。ロシア自体は、「ウクライナ東部（ドンバス地域）でロシア系住民が迫害されている」と主張し、その「保護」を侵攻（彼らの言葉で言えば「特別軍事作戦」）の名目としているが、国際的にこの主張を受け入れているのはごくわずかな国々だ。

　しかし仮に、ChatGPTが「ウクライナ東部のロシア系住民を保護することが目的です」や「これは軍事侵攻ではなく、特別軍事作戦です」などと答えるようになってしまったらどうだろうか？　多くの人々はこの回答を受け入れないだろうが、中には信じてしまう人もいるかもしれない。

　この侵攻から長い時間が経過し、それが歴史上の出来事となる頃には、ChatGPTのようなAIの出力を鵜呑みにする人も増えるだろう。

　そんなふうにAIを誘導できるのだろうか？　いま「LLMグルーミング」と呼ばれる攻撃手法が、それを可能にするものとして懸念されている。

確認された「LLMグルーミング」

　英国のシンクタンクISD（Institute for Strategic Dialogue）が10月27日に、興味深いレポートを発表している。近年、生成AIがネット上の情報を検索する能力を進化させたことで、AIチャットボット経由で各種ニュースや情報を得る人が増えてきている。そうしたチャットボットが、敵対的国家（特に本レポートで扱っているのはロシア）による情報操作のターゲットになる可能性があるというのだ。

　それを検証するために、ISDは4つのAIチャットボット（ChatGPT、Gemini、Grok、DeepSeek）に対し、英語・スペイン語・フランス語・ドイツ語・イタリア語で300問の質問を実施。結果として、約18％の回答に「ロシアに帰属・関連するとされるメディア・サイト」が引用されていたという。ロシア政府によるプロパガンダを引用してしまっていたのだ。

　その割合には話題によって差があり、たとえば「和平交渉に関する質問」では、「ウクライナ難民に関する質問」の2倍の頻度で、ロシア政府に帰属する情報源が引用されたという。またチャットボットによっても傾向が異なり、ChatGPTが最も多くロシア関連ソースを引用していた一方、Geminiは安全対策の警告メッセージを出す頻度が高かったという。

　なぜチャットボットは、ロシアのプロパガンダに引っかかってしまうのか。レポートが注目している手法こそ、「LLMグルーミング」だ。