大量のAIチャットボットが偽の「世論」を生み出す（筆者がChatGPTで生成）
目次

（小林 啓倫：経営コンサルタント）

　SNSが普及して以来、ネットには人々の声がリアルタイムで反映されるようになった。それに伴い、いわゆるプロパガンダもその活動の場をネットに移し、かつては人力で（大量の人々を雇って人海戦術でネットへの書き込みを行う等）、現在ではデジタル技術を活用して（「ボット」すなわち自律的に動くプログラムに大量の書き込みをさせる等）、人々に偽の情報を刷り込んだり、特定の主張があたかも大勢に支持されているかのように偽装したりすることが当たり前のようになっている。

　これまでもそうした事例を本連載で取り上げてきたが、つい最近も新たな事例が報じられた。共同通信が情報分析企業「ジャパン・ネクサス・インテリジェンス（JNI、東京）」への取材を通じて得た内容として、X（旧ツイッター）上で外国人問題や政党批判などに関する投稿を「組織的に転載して拡散していた」とみられる70のアカウントの存在が確認されたと報じているのだ。

　各アカウントは一見すると個別に活動しているように見えるが、JNIの分析では、同時刻に同じ内容を投稿する、プロフィールで共通の絵文字を用いるといった共通パターンが観測され、気付かれない形で世論介入を図った可能性があるとされた。

　また70アカウント群全体では、1日平均40〜50件の転載投稿が行われ、個々のアカウントのフォロワー数は最大で約2000人程度にとどまる一方、数を束ねて拡散力を補う構図が示唆されている。転載元は、フォロワー数の多い個人や報道機関の投稿が多く、さらに「特定の人物・組織の投稿だけを継続的に拡散し続ける」など、アカウント間で役割分担があるようにも見えたという。

　政治的主張の傾向としては保守的な内容が多いものの、自民党批判やリベラル寄りの発信も転載されており、特定陣営一色というより「広く政党批判・争点拡散に資する素材」を集めて増幅している可能性が示されている。JNIは、こうしたネットワークが災害など有事の局面での悪用も想定し得るとして、「何者かが実験している段階かもしれない」との見立てを示し、警戒を呼びかけている。

　残念ながらこうした大量の手動・自動アカウントを用いたプロパガンダ行為は、他にも多数発生しており、使用されるSNSアカウントの数も70を軽く上回るものがいくつも確認されている。

　そして最近、さらなる手法の進化を警告する論文が発表された。そこで描かれているのは、AIで自律的に動く大量のボットが、協調して偽の世論を生み出す世界だ。