「岸田首相の声」を模した、今回公開された合成音声の「声紋＝ソナグラム」。だがこの音声は「呼吸」を一切していない。それだけからでも、生きた人間の声でないことは見る人が見れば一目瞭然
ギャラリーページへ

「岸田文雄首相のフェイク動画が出回っている」として「生成AI」が取り沙汰されています。11月8日水曜日には国会でも問題とされました。

　報道などの動画を勝手に細工し、投資を呼びかけるものから、一目見て偽物とは分かるものの、岸田首相の顔と声を用いて卑猥な発言をさせるものまで、ネット上はAIを濫用するフェイク動画のオンパレード状態。

　といっても、その水準は「生成AI」などと言うほどのものではなく、2022年に出回った「安倍晋三ディープフェイク」よりも稚拙なものが目につきます。

　ただし、中国などでは偽造コンテンツが多数、出回っている様子で、以前よりも技術の敷居が下がった分、稚拙な模倣犯が増えている可能性も懸念されます。

　後者についてはとりわけ「日テレNEWS24」のロゴが入ったフェイク動画であったため、11月3日、日本テレビ放送網から「しかるべき対応」を取る旨の発表がありました。

　翌11月4日、早々に動画を撤回した投稿者からツイッター（現X）上で「訴訟しないでほしい」との「謝罪」があるなど、マンガのような展開になっています。

　このような推移に対して政府、松野博一官房長官からは「関係省庁において実態を把握し、必要な対策に取り組んでまいりたいと考えております」とのコメントのみ。

　短期的には無策と言っているのと同じことになっている。

　折しも11月6日、OpenAIは「GPT-4 Turbo」の公開を公表、いわゆる「生成AI」商法のマルチメディア化は避けがたいグローバルトレンドになっています。

　ということでこうした「フェイク音声動画」や詐欺広告、誇大広告の問題を考えて見ましょう。