この「中国語の部屋」を外部から見る人にとっては、中国語で入れた質問に対して、中国語で出てくる答えは一通り完璧なので、中の人が「中国語を理解している」と思い込む可能性がある。

 しかし、実際に作業している米国人は何一つ学習もしなければ理解もしていない・・・。

 このモデルは、発表後40年以上が経過して開発、公開されたチャットGPTなど生成AIの本質を考える上で、格好の示唆を与えてくれます。

 サールの元来のモデル化では「米国人」はパソコンのCPUを意味していましたが、CPUがGPTになっても「人工知能」の判定という「チューリングテスト」問題の良い題材になっている。

 生成型人工知能(Generative AI)などというと何か創り出しそうに聞こえます。

 しかし、その母胎は「自動翻訳機」さらには「微分方程式求積マシン」などのシステムで、本質的には「同値変形」つまり「おきかえ」が演算の大本になっていることに注意する必要があります。

 この点、サールの「中国人の部屋」は「対応マニュアル」という形で、格好の具体例を提供している。

 チャットGPTの演算は、基本的には「リクエストに対して『辞書』を引いて、適切そうに思われる解を出力」するもので、いま・ここにない情報をゼロから作り出すことはありません。

 要するに「込み入った電子辞書に文書合成機能が付加されたもの」というのが現状の大規模言語モデルの実態です。

 特に、その文章の内容に責任を取る(法的)主体がどこにもないことに、企業やユーザの観点では注意する必要がある。

 AI出力は「ワープロの自動漢字カナ変換に毛が生えた程度」と思い捨てたうえ、重要な文書について問題がないかの精査は結局人間側で確認するしかありません。

 こうした事情を、さらに画像生成による「デザイン」などに拡張するうえで、フランク・ジャクソンの「メアリーの部屋」モデルは面白いポイントを突いています。

 世間に「クオリア」という言葉を広めた、この「メアリーの部屋」を次に覗いてみましょう。