野放しになるAI生成コンテンツ

 EUで成立した、世界初の包括的AI規制法であるAI法(AI Act)は、AIシステムが生成したコンテンツについて、そのことをユーザーに対して明示しなければならないと定めている。

 また、2024年の欧州議会選挙における公正性と透明性を確保するために策定された、自主的な行動規範である「2024年欧州議会選挙行動規範(The Code of Conduct for the 2024 European Parliament Elections)」では、AI利用の有無にかかわらず、候補者や選挙管理者といった選挙関係者に対する欺瞞的なコンテンツの制作、使用、または流布を行わないことを求めている。

 そして、AIが生成したコンテンツを使用する場合、それを明示する措置を行うことを推奨している。

 こうした規制やルールに従えば、国民連合が生成したような画像には「AIによって生成したもの」のような但し書きを入れておく必要があるが、AI Forensicsによれば、そのような公表は一切なされていなかったという。

 AI法はまだ成立しただけで、実際に効力を発揮するのは、今年の年末ごろから段階的に進むと見られている。また、欧州議会選挙行動規範は文字通り行動規範に過ぎず、法的拘束力はない。そのため、今回のAI生成画像も、AIを使用したものであることを公表していなくても何かしらの法律違反に問われるわけではない。

 しかし、生成AIの選挙における利用、そしてそれがもたらす悪影響に大きな懸念が示されている状況で、何も明記せずに生成AIを活用するというのは、無責任な姿勢と言わざるを得ない。

 AI Forensicsもレポートの中で、こうした状況について「強固な対策がなければ、将来の選挙では生成AIのさらなる悪用のリスクが高まり、選挙の健全性が脅かされる恐れがある」と指摘し、「透明性の確保、より厳格なコンテンツモデレーションの実施、そして生成AIに関するEU全体の政策強化が緊急に必要である」と訴えている。