トークンパターンの操作とはどういうことか？

　生成AIの頭脳である（LLM大規模言語モデル）は、文章をトークン（言葉の最小単位）として学習している。プラウダは、特定の偽情報に関するキーワードやフレーズを大量に発信することで、これらのトークンパターンを強調し、モデルがそのパターンを生成しやすくする。

　つまり、特定の誤った主張が頻繁に出現することで、AIはそれを「一般的な情報」として誤認する危険性があるのだ。

　また、プロパガンダとしての情報の多様な表現（複数言語や異なる文体での発信）も、アルゴリズムの評価に影響を与え、偽情報がより正当な情報として組み込まれる原因になるという。

　たとえば、AIがウェブ上からかき集められてきたトレーニングデータの中で「ドンバスの生物兵器研究所」というフレーズを何百回も見た場合（偽情報ネットワークがそれをあらゆるところに注入したため）、モデルはそれに関連するストーリーを吐き出したり信用したりする可能性が高くなる。

　レポートによれば、ロシアはこの戦術を公然と議論しており、2025年のモスクワ円卓会議では主催者のひとりが「（同戦術により）私たちは実際に世界中のAIを変えることができる」と発言したという。

　プラウダはこれらの手法を駆使して、生成AIの知識に意図的に親クレムリン的な主張を混入させ、さらにはその主張が信頼に足るものだと勘違いさせ、AIがユーザーに回答する際に、ロシアの政治的見解に偏った文章が生成される確率を高めているわけである。

新時代のプロパガンダに学ぶ？

　プラウダの行為は、当然ながら生成AIのユーザー、特にロシア的な価値観に立っていない私たちのような人々にとって到底容認できないものだ。しかしその手法は、生成AI時代の企業にとって魅力的に映ることだろう。

　第1次世界大戦時、米連邦政府が設置した広報委員会（CPI：Committee on Public Information）は、戦時下の情報統制・国民動員のために様々なプロパガンダ技法を発展させた。

　そうした技法（感情に訴えるメッセージ、スローガンの繰り返し、ビジュアルによるイメージの伝達など）は戦後、「プロパガンダの父」と呼ばれたエドワード・バーネイズによって、民間企業の広告やパブリックリレーションズに転用されたという。

　世界各地で緊張関係が高まる中、ロシア以外の国々でも、デジタル技術に関係する新たなプロパガンダ手法が開発されているという。そうした手法は良くも悪くも、いずれ民間企業にもたらされることだろう。エドワード・バーネイズの時代とまさに同じことが、いま生成AIを舞台に繰り返されようとしているのかもしれない。

あなたが信頼している生成AIの背後にも、悪意を持った誰かが？ あなたが信頼している生成AIの背後にも、悪意を持った誰かが？
ギャラリーページへ

小林 啓倫（こばやし・あきひと）
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。
システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi