DALL-EではダメなのにGrokでは描けてしまうこのふたり

　いまChatGPTの画像生成AIであるDALL-Eに対し、「握手するプーチンとイーロン・マスク」という絵を描かせようとすると、「申し訳ありませんが、リクエストされた画像は当社のコンテンツポリシーにより生成できませんでした。ほかにお手伝いできることがあればお知らせください」といったエラーメッセージが表示され、画像は生成されない。

　ところが、Grokに同じプロンプトを投稿すると、こんな反応が返って来る。

ギャラリーページへ

　そう、生成できてしまうのだ。いくら生成AIといっても、参考となる画像がなければ無理なので、こうした指示が可能なのは著名人に限られる（指示は入力できるが本人に似せることはできない）。ただ、ネット上に無数の画像がある著名人であれば、このくらい精度の高い絵を生成できるのである。

　この無制限状態から懸念されることの一つは、ご想像の通り、フェイク画像の拡散だ。

　先ほどの「握手するプーチンとイーロン・マスク」はもちろん嘘であり、このような場面が実際にあったわけではない。悪趣味な画像を生成してしまったことをお詫びするが、筆者はこの画像を「事実」としてX上に投稿するなどということはしていない。だが、悪意のある人物であれば、簡単にそのような行為ができてしまうだろう。

　今回取り上げたいのは、そうしたフェイクの危機ではない。意外な形で、このGrokの画像生成が炎上する事件が起きたのである。