女子生徒のフェイクポルノ画像が出回った米ニュージャージー州にあるウェストフィールド高校（写真：ZUMA Press/アフロ）
3枚の画像を見る
  • 子どもが不適切なコンテンツに触れないように、さまざまなデバイスやメディアには年齢制限やペアレンタルコントロールなどのルールや機能が設けられている。
  • それは生成AIにおいても同じこと。第三者機関による生成AIの製品評価など、生成AIごとのリスク評価を提供する組織が増えている。
  • フェイク画像の生成やプライバシー侵害、偏見の助長などを促しかねない生成AIをうまく活用するために、生成AIを継続的に評価、監視する努力が求められる。

（小林 啓倫：経営コンサルタント）

生成AIにも年齢制限が必要？

　子どものころ、「そんなテレビ番組を見てはいけません」「ゲームをやったらダメって言ってるでしょ」などと注意されたことはないだろうか。そして、そのたびに「確かにテレビやゲームには過激な表現があるけど、それで感化されて暴力的になることなんかない」と反発したのではないだろうか。

　子どもの立場からすれば過保護としか言いようがないのだが、親になってみると、不安を抱いてしまう気持ちは理解できる。なるべくなら不適切なコンテンツには触れさせたくないという心境だ。

　同じように感じる大人は多いのだろう。その証拠に、さまざまなメディアやデバイス、コンテンツにおいて、年齢制限やペアレンタルコントロールなどのルールや機能が設けられている。

　映画で言えば映画倫理機構（映倫）の映画倫理規定（PG12やR18+など、ある作品を視聴する際の年齢制限を表したレーティング）や、ゲームであればコンピュータエンターテインメントレーティング機構（CERO）の年齢別レーティング制度（A、B、Zなど、同じく年齢制限を示すレーティング）などといった具合だ。

　そしていま、かつてのテレビやゲームと同じような、親にとって頭痛の種となりつつあるのが、お馴染み生成AIだ。

　人間と会話するように指示するだけで操作でき、文章や画像、音楽、動画まで生み出してくれる生成AIは、新しい形で情報と接する「未来のメディア」として期待されている。しかしその反面、問題のあるコンテンツを生成してしまうリスクも明らかになっている。