AI使用の判別で黒人が差別されるリスク

　この指摘を行ったのは、サンフランシスコに拠点を置く非営利団体で、子供や家族向けに安全なデジタルメディアの使い方に関する情報を発信しているコモン・センス・メディアである。

　彼らは13歳～18歳のティーンエイジャー、ならびにその親たちを合わせた約1000人の米国人に生成AIに関するアンケート調査を行い、今年9月に“The Dawn of the AI Era（AI時代の幕開け）”と名付けられたレポートを発表した。

　それによると、米国の黒人ティーンエイジャーは、白人やラテン系のティーンエイジャーの約2倍、学校の宿題を（自分がしたにもかかわらず）AIが作成したものだと誤って判定される可能性があるというのだ。

　米国の学校ではいま、生徒が宿題の対応に生成AIを使って楽をしてしまう問題に注目が集まっている。実際にこのレポートでも、子供たちのおよそ3割が、教師との間で「生成AIの使用許可または禁止に関する話し合い」を持ったことがあると回答している。

　学校の授業に関する活動において、生徒に生成AIの使用を許すべきかどうかというのは難しい問題であり、ここではその是非は問わない。ただ既に多くの生徒や教師が、この問題と向き合っている。

　そして「禁止」という選択を採った場合には、その実効性を担保しなければならない。つまり、正直に禁止ルールに従った生徒が成績上で不利にならないよう、「宿題の回答というコンテンツが、AIによって生成されたものか否か」を判別しなければならない。

　そこで既に教師の中には、一般で入手可能な関連ツールやサービスを利用して、宿題の回答をチェックする人も登場している。

　しかしその技術の検知精度に、人種上の差があったとしたら問題である。コモン・センス・メディアによる調査はまさにそれを裏付けており、「（自分でした）宿題の回答を、教師からAI生成だと誤ってフラグ付けされた経験はあるか？」という問題において、YESと回答した生徒は白人で7%、ラテン系で10％だったのに対し、黒人は20％に達するという結果が出たのである。

　これはアンケート調査によるものということで、個人の主観や技術以外の社会的要素が回答結果に影響を及ぼした可能性も考えられる。しかし技術的な側面から、AI生成コンテンツ判別技術が抱える偏見について指摘した研究も存在している。