日本でもいずれ、AIの全面的な使用禁止措置が検討される日が来る?
目次

(小林 啓倫:経営コンサルタント)

 生成AIの進化が止まらない。最近の生成AI系アプリは「目」を得た、などと言われるように、画像認識能力も著しく向上している。

 たとえば、次のスクリーンショットは、筆者が先日、とある展覧会で撮影した写真をChatGPTに読み込ませ、「これは何ていう建物ですか?」と質問してみたものだ(念のため、写真は撮影OKのスペースで撮ったものになる)。

 ご覧の通り、およそ30秒で正解を答えてくれた。画像認識については他にもさまざまな使い方が可能で、皆さんの方がもっと優れた利用法を編み出しているかもしれない。

 このような機能がさまざまな生成AI系アプリに搭載されるようになってきているが、つい先日、中国でメジャーな生成AI系アプリにおいて、画像認識機能が一斉に使えなくなるという事件が起きた。

 これは数日間の限定的なものであったのだが、いったいなぜそのような事態になったのか、ヒントは「高考(Gaokao)」である。

不正行為対策として行われた自主規制

 高考(正式名称は「普通高等学校招生全国統一考試」)とは、日本における大学入学共通テストに近い試験で、中国で毎年実施される全国統一大学入試の名前だ。

 中国の高校生にとってもっとも重要な試験のひとつであり、毎年6月上旬に数日間の日程で行われ、多くの学生たち(1000万人以上に達する)が受験に挑む。その結果でどの大学に進学できるかがほぼ決定してしまうため、受験生にとってまさに人生の岐路とも言える試験だ。

 実は生成AIの画像認識機能が一時停止したのは、この高考の期間と一致している。と言えばもうお分かりだろう、これは不正行為対策として行われた措置だったのだ。

 会場の受験生が何らかの手段でテスト問題を撮影し、それを生成AIアプリに読み込ませ、答えを考えさせる――。そんなカンニング行為を防ぐために、企業側で機能そのものを停止してしまったというわけだ。

 入試問題を生成AIに「見せて」、正答を得ることなんてできるのだろうか?と思ったかもしれない。答えは「最近のAIはそこまで進化している」だ。もちろん100%上手くいくというわけではないが、さまざまな問題において、高い確率で正答を出せるようになっている。

 たとえば次の画像は、大学入試センターから公式に発表されている、令和6年度本試験の数学Iの一部だ。