著者フォロー
生成AIには根源的な問題があることを認識して使わなければならない
Chat（チャット）GPTなど「生成AI」大規模言語システム（LLM=Large Language Model）を利用する方には、適切に命令＝プロンプトを入力してやらないと、おかしな出力になってしまうことは常識と思います。
そうした流儀を「プロンプト工学」などと称する例も目にしますが、あまり感心しません。
LLMの構造的な問題を無視して枝葉末節の「ティップス」＝ちょっとした「秘訣」に詳しくなっても、システムが世代交代すればほぼすべて意味がなくなってしまうからです。
そんななか、米マサチューセッツ工科大学（MIT）のセンディル・ムライナサン（経済学）たちのグループが、興味深い「AI誤謬の定量化」を発表しました。
名付けて「LLMのポチョムキン理解」とその評価。
今回は、その内容をご紹介する共に、機械学習システムは基本「間違えて当然」のシステムであるという1の1を整理してみましょう。
「ポチョムキン理解」は「見せかけだけの理解」、現実には何も分かっていないのに、知っているようなフリをしてしまう、生成AIの致命的な弱点を指す用語です。
しかし、このAIの「知ったかぶり」は原理的なもので、ほぼ永遠に解消されることのない「原罪」的な本質に直結しているのです。
ポチョムキンとはいったい誰か？
さて、ムライナサンたちの「ポチョムキン理解」の紹介以前に、まず「ポチョムキン」という固有名詞から確認しておきましょう。
映画好きな人なら、セルゲイ・エイゼンシュタインがモンタージュ手法を完成させた初期の秀作「戦艦ポチョムキン」（1925）を想起されるかもしれません。
この映画は、現在も戦闘がやまないウクライナ、クリミア半島を舞台とするロシア革命期の船員反乱を描いたものです。
タイトルの元となったロシア貴族、グレゴリー・ポチョムキン公爵 （1739-91）にはピンとこないかもしれません。
さらにこのポチョムキン公爵、ロシアの啓蒙専制君主エカテリーナ2世（1729-96）の公然の愛人（秘密結婚の夫）として知られも知られ、一女をもうけた、などとなると穏やかではありません。
1773年「プガチョフの反乱」鎮圧に功のあった公爵は1775年、36歳のとき10歳年上で46歳のエカテリーナ2世と出会って急接近。男女の関係となり長女エリザヴェータ・ポチョムキナをもうけたとされています。
その関係は2人の熱が冷めてからも生涯にわたって続き、女帝の男の好みを知り尽くしたポチョムキン公爵は、彼女が歓びそうな若い愛人を次々と閨房に送り込んだといった逸話も伝えられています。
しかし、それ以上に重要な史実として、ポチョムキン公爵は「ウクライナ」の運命を変えてしまった人物でもあります。
