ジョージア州で遊説するハリス候補（写真：UPI/アフロ）ジョージア州で遊説するハリス候補（写真：UPI/アフロ）
2枚の画像を見る
  • 選挙における生成AIの不正利用に各国の政府は神経をとがらせている。
  • ネットにはフェイク・コンテンツがあふれかえっているが、それを見極めるのは困難だ。
  • 果たして、フェイク・コンテンツに騙されないために、有権者は何をすればいいのだろうか。

（小林 啓倫：経営コンサルタント）

ついに生じ始めた生成AIによる選挙への悪影響

　今年は世界各国で主要な選挙が行われるため、各国の政府が選挙における生成AIの不正利用に神経をとがらせている。

　たとえば、米国土安全保障省の一組織で、サイバーセキュリティ関連の対応を行っているCISA（Cybersecurity and Infrastructure Security Agency）は、このテーマを扱ったレポートを今年1月に発表している。

　同レポートは、いま生成AIの普及と悪用により、選挙関連のセキュリティや整合性が脅かされる可能性が大きく増大しつつあると主張。具体的には、外国政府やサイバー犯罪者が生成AIを使ってディープフェイク映像や動画を作成し、情報操作や詐欺を行う、あるいはそうしたコンテンツがAIチャットボットによって拡散されるといった可能性を指摘している。

　CISAの懸念は決して杞憂ではなかったということが、最近のニュースによって証明されている。

　たとえば、コンサルティング企業デロイトトーマツの報告によれば、2024年1月に行われた台湾の総統選挙において、台湾の自治独立を主張し、中国に批判的な民進党の候補者を攻撃する、大量のフェイク・コンテンツがSNS上で拡散されたそうだ。

　その裏側には当然ながら中国がいると見られており、マイクロソフトも公式ブログ上で、「台湾総統選において、他国の選挙に影響を与える目的でAIコンテンツを使用する国家主体が初めて目撃された」と説明している。

　またつい先日、今年の米大統領選において共和党候補者に選ばれているドナルド・トランプ前大統領が、米国の人気歌手テイラー・スウィフトが「トランプに投票して」と呼びかけているかのようにみえる一連のフェイク画像をSNSに投稿したことが報じられた。

　これはトランプ氏自身が作成したわけではなく、ネット上で拾い集めたものと見られているが、それでも前大統領が自らフェイク・コンテンツの拡散に一役買ったわけである。もはや生成AIのフェイクによる選挙妨害は、あって当たり前という時代に入りつつあるのだろう。

　そうしたAI生成コンテンツを、AIが生成したものと識別するのは難しい。さまざまな検知技術や手法が研究されているが、完全なものは存在しないか、存在しても一瞬でその検知を逃れるフェイク技術が開発されるといういたちごっこが続いている。

　AI生成コンテンツであるという「しるし」を入れるようIT企業に要請する（たとえば、AI生成画像の場合は、人間の目には見えないが特殊なソフトウェアにかけるとAI生成であることが明らかになる「デジタル透かし」という技術が考案され、その導入が呼びかけられている）という動きもあるが、仮にそうした規制をIT企業側が受け入れたとしても、悪人の側は単にそうした「しるし」を入れないアプリケーションを使うか、自ら開発してしまえば良い。

　したがって、フェイク・コンテンツの流通を望ましい形にコントロールするというのは、非常に難しい課題だと言わざるを得ないだろう。