透かし入りのフェイク画像もそのまま拡散

　確かにSora 2のウォーターマークは簡単に取り除くことができる。全く推奨しないが、検索すればいくらでも無料ツールが出てくるし、そもそもProモードでは、ウォーターマークなしの動画をダウンロードできる。

　ちなみに、先ほどの動画のウォーターマークなしバージョンがこちらである（もちろん不正なツールを使ったものではなく、Proモードで作成したものだ）。

　しかしいま問題になっているのは、そうした偽装工作（と呼べないほど手軽だが）をしたものではなく、ウォーターマークありの、明らかにフェイクだと見抜ける動画である。どんな騒動が起きているか、その一例をご紹介しよう。

　今年10月末、米国の生活保護制度のひとつであるSNAP（Supplemental Nutrition Assistance Program、いわゆる「フードスタンプ」）をめぐる動画が注目を集めた。

　もともとTikTokのとあるアカウントに投稿された動画で、その内容はローカルニュース風の映像に黒人女性が登場し、インタビューへの回答として「正直に言うけど、月に2500ドル（約38万円）超のフードスタンプを受け取って、そのうち2000ドル分を1200〜1500ドルの現金で売ってるわ」と発言するというもの。要するに、「有色人種が生活保護を不正受給している」証拠となるような動画というわけだ。

　もちろんこの動画がSora 2によって生成されたフェイクで、その証拠に、Soraのウォーターマークがしっかりと入れられていた。安全対策のためにオリジナル動画はすでに削除されているが、他所に（勝手に）転載されたバージョンや、各種記事上でのスクリーンショットなどを見ると、確かにSoraのロゴが画面に表示されている。これならAI生成であることは一発で見抜けそうだ。

　ところが、動画はTikTok上で大きな注目を集め、YouTubeなど他のプラットフォームに転載、拡散することになる。この件を報じたAfrotechの記事によれば、TikTok上のオリジナル動画だけで、削除される前に約50万回再生されていたそうだ。一部には「AI生成じゃないか」と指摘するコメントもあったようだが、それを知ってか知らずか、多くの人々が拡散に加担したのである。

　その1人が、右翼インフルエンサーとして知られるミラ・ジョイだ。彼女のXアカウントには約43万人のフォロワーがいるのだが、この動画を引用した上で、「完全に詐欺行為だ」と投稿。この投稿は現在削除されているが、その前に170万回以上閲覧されたと報じられている。

　残念ながら、話はこれで終わらなかった。SNSプラットフォームやニュースサイトが、拡散に加担したのである。