あまりに遅く、不十分だと批判されているXの対応

 まず、スウィフティーと呼ばれるテイラー・スウィフトのファンたちが、彼女のフェイク画像が出回っていることに気付き、「#ProtectTaylorSwift(#テイラー・スウィフトを守れ)」というハッシュタグを使ってXへのポストを始めた。

 彼ら、彼女らはこの犯罪行為に対する怒りと、テイラー・スウィフトへの支持を表明するだけでなく、ディープフェイク・ポルノ、あるいはフェイク行為全般に対する非難の声をあげた。

 こうした行為にプラットフォーム側も反応。Xは緊急的な措置として、テイラー・スウィフトに関する検索がブロックされるようにした。

 もちろん、フェイクコンテンツそのものを削除することにはならないが、まだそのコンテンツに触れていないユーザーたちの目に触れないようにすることで、それ以上の拡散が起きないようにしたわけである。

 ただ、Xの対応については、あまりに遅く、不十分だったと非難する声も大きい。

 IT系ニュースサイトThe Vergeの報道によれば、今回の事件で活発にフェイク画像を共有したある認証済みアカウントが、ポリシー違反を理由に停止されるまでに、そのポストした動画のひとつが4500万回も再生されたそうだ。このポストが最終的に削除されるまで、17時間かかったそうである。

【参考資料】
Trolls have flooded X with graphic Taylor Swift AI fakes(The Verge)

 X以外のIT企業についてはどうだろうか。まず自社も大規模なソーシャルメディア・プラットフォームを提供しているMeta(旧Facebook)は、ディープフェイク・ポルノを非難する声明を発表した上で、こうした問題行為に対して適切な措置をとることを約束した。

 またMicrosoftは、ディープフェイクの作成にあたり、自社が提供している画像生成サービスが悪用されたかどうかを調査している。ChatGPTで知られるOpenAIも、そのMicrosoftに画像生成AI「DALL-E」を提供していることもあり、有害なコンテンツの生成に対しさらなる安全策を取る姿勢を示した。

 政治の世界からも、対応を進める姿勢が示された。