「悪意あるAIスウォーム」への警告

　これは「悪意あるAIスウォームはどのように民主主義を脅かすのか：エージェント型AIとLLMの融合が、情報戦の新たな最前線を切り開く」というタイトルの論文で、ノルウェー最大級の独立系研究機関であるSINTEFに所属する研究者らが執筆したもの。執筆者として22名の名前が挙げられており、そのバックグラウンドも計算社会科学、ネットワーク科学、心理学、セキュリティ、ジャーナリズム、公共政策と多岐にわたる。

　こうしたさまざまな分野の専門家が集まり、「AIスウォーム」の進化が民主主義にどのような影響を及ぼすかを考察している。

　彼らはまず、デジタル時代に入り、「オンライン上の（世論）操作（online manipulation）」が加速しているとの問題意識を示し、その実行主体は外国勢力だけでなく、国内の政治エリートや政党も主要な担い手になっていると説明。実際の例として、Brexit（英国のEU離脱問題）時のネット上での議論や、米国、ブラジル、フィリピンの選挙が挙げられている。さらに、「AIを活用した世論・選挙介入はもはや仮説ではない」と強調されている。

　その上で、AIを活用した世論操作の次の段階として、「悪意あるAIスウォーム」と彼らが名付けた存在が登場すると予測している。

　スウォーム（swarm）とは英語で「群れ」という意味なのだが、それでは「悪意あるAIスウォーム」とは何か。論文ではこれを、①持続的なアイデンティティと記憶を維持する、②トーンやコンテンツを変化させながら共通の目的に向けて協調する、③エンゲージメント、プラットフォームのシグナル、人間の反応にリアルタイムで適応する、④人間による監視を最小限に抑えて動作する、⑤複数のプラットフォームにまたがって展開できる、という5つの特徴を持つ「AI制御エージェントの集合体」と定義している。

　つまり悪意あるAIスウォームとは、「自律的に協調・適応しながら活動する、悪意あるAIボットの群れ」と言えるだろう。従来のボットネットとの違いは、単なる自動化ではなく、各エージェントが記憶を持ち、状況に応じて振る舞いを変え、互いに連携しながら目的を達成する点にある。いわば「知性を持った群体」として機能するところが、この定義の重要な部分だ。

　では、そうしたスウォームの活動を、なぜ警戒すべきなのか。論文では、AIスウォームが持つ「世論工作の効果を高める技術的進歩」を5つ挙げている。