民主主義に大きな打撃を与えるAIスウォーム
第1に、「指令型から『群れ』の協調へ」だ。スウォームは中央集権型ではなく、現場で自律的に動いて連携できる。多数のAIエージェントが目的を共有しつつ、互いに役割分担して動けるため、単発の投稿ではなく、連続した会話や長期の関係づくりまで含めた影響工作が可能になる。
第2に、「SNSの全体図を把握した上で、『刺さる相手』に入り込む」ことができる。特定のSNS上に存在しているコミュニティの構造を観測し、どの集団が揺らぎやすいか、誰が拡散の要所かを見極め、相手の文化や語り口に合わせて入り込む。
第3に、「人間らしさが上がり、検知をすり抜けやすい」という特徴がある。口調や関心、活動時間帯、プロフィール画像まで多様化できるため、従来の検知手法では「問題ない」と判断されやすくなるという。
第4に、「実験を通じた高速な最適化」である。マーケティングなどで「A/Bテスト」と呼ばれる手法(2つの異なるバージョンをランダムにユーザーへ提示し、どちらがより効果的か統計的に比較する手法)が使われているが、AIスウォームはそれと同じ発想で、個々のAIボットが大量のメッセージ案を試し、伸びる言い回しだけを自動で残す。それにより、説得力のあるメッセージや効果的なメッセージ拡散方法を短時間で編み出せる。
最後に、「24時間稼働と長期潜伏」だ。AIスウォームの各エージェントは「恒常的なIDと記憶」を持ち、人間の監督が最小でも動けるので、昼夜を問わず活動し続けられる(24時間稼働)。その結果、特定の話題が盛り上がった瞬間だけ出てくるのではなく、数週間〜数か月(場合によってはもっと)にわたりコミュニティ内に居続け、普通の雑談や共感、情報提供も交えながら信頼を積み上げる(長期潜伏)ことが可能になる。
こうしてAIスウォームは単なる荒らしではなく、コミュニティ内の「常駐インフラ」となり、気づかれにくい形でコミュニティ内の空気や認識を徐々に書き換える。
これらの新たな特徴を持つAIスウォームは、冒頭で取り上げたような、単に数十体のボットを運用するという手法とは質的に異なる。
ボットによるコピペ型の転載は、各エージェントが独自に文章を生成することになる。事前に定義された固定パターンでの協調は、リアルタイムで行われる学習と適応になる。結果的に従来のようなパターン検知は不可能になって、事後になってから統計的に不自然な点がないかを確認するしかなくなるという。
その結果、研究者たちは、AIスウォームが民主主義に大きなダメージを与えると予測している。