Xを率いるマスク氏。ボットネットの取り締まりにはあまり熱心ではないようだ（写真：AP/アフロ）
3枚の画像を見る
  • プロパガンダを目的としたボットネットの運用に、生成AIが使用されていた疑いが浮上している。
  • あるボットネットでは、「AI言語モデルとして（As an AI language model）」というお決まりのフレーズポストにが残っていたため、ChatGPTだと判明したが、気づかれない形で生成AIが活用されている可能性は高い。
  • より巧妙に活動するボットネットと、取り締まりの労力を惜しむX社の姿勢を考えると、ユーザー自身が用心する以外にない。

（小林 啓倫：経営コンサルタント）

　人間が書いたとしか思えないような、高度な文章を生成できる対話型AI「ChatGPT」。このサービスがリリースされたとき、スパムなどの詐欺行為に悪用されるのではないか、という懸念の声が各所からあげられた。

　その懸念を裏付けるような事例も報告され始めている。実際に、大規模なボットネットの運用にChatGPTが利用されていた疑いが浮上しているが、ChatGPTがよく使う「あるフレーズ」によって、このボットネットは閉鎖に追い込まれた。

研究者が発見した「ChatGPTボットネット」

　今年7月、インディアナ大学ブルーミントン校の研究者らが執筆した、ある論文が発表された。「Anatomy of an AI-powered malicious social botnet（AIを駆使した悪質なソーシャルボットネットの全貌）」と題したその論文は、X（旧Twitter）上に構築された、巨大なボットネットの存在を暴く内容だった。

◎Anatomy of an AI-powered malicious social botnet

　ボットネットとは、文字通り「ボット（ロボットの略で、自律的に特定のタスクを実行するプログラム）」で構成されたネットワークのことを指す。それはさまざまな目的に利用されるが、その一つが、プロパガンダなど特定の目的を持った情報の流布だ。

　たとえば、NHKの報道によると、ロシアがインターネット、特にSNS上での情報拡散に使用していると見られるボットネットの存在が確認されている。その目的は、もちろん対ウクライナ戦争（ロシア側はまだ「特別軍事作戦」という建前を崩していないが）に関して、ロシアを支持するネット世論の醸成だ。

◎“情報戦”とフェイク SNS時代の戦争は（NHK）

　そうしたボットネットは、「#istandwithrussia（ロシアを支援します）」や「#istandwithputin（プーチンを支持します）」といったハッシュタグを付けて、親ロシア的なポスト（ツイート）を投稿する。

　もちろん、そうした投稿が1件や2件では何の意味も持たない。そこでボットネットを使い、大量のボットに大量のメッセージを繰り返し投稿させ、まるで大勢の人々がロシアを支持しているかのような状況をつくり出すわけだ。

　そうしたメッセージがボットによるものということは見破られてはならないため、プロパガンダ用のボットネットを運用する人々は、まるで人間が書いたかのような文章を次々に生成してくれるAIに注目し、AIをボットネットに組み込むようになっている。

　今、最も優秀な文章生成AIといえば、もちろんChatGPTだ。そういった背景から、「ChatGPTボットネット」が誕生しつつあるわけだ。