ElchinatorによるPixabayからの画像
目次

　前回稿　「AIははったりをかます：AI利用者が知っておくべき『ポチョムキン誤謬』とは」には様々な反響をいただきました。真摯に機械学習を考えてくださるユーザー層の存在、心強く思っています。

　そこで、今回は「ハッタリをかます」以外にも「報酬次第」でどのような嘘八百でも調子に乗って出力してしまうAIの原理をお伝えします。

　実のところ、「電子辞書」と「ワープロ」の複合機程度のものに過ぎないのが現在のAIであることを、その原理から見切れるよう、子供たちへの教育を徹底する必要があると考えています。

　そもそも「人工知能（Artificial Intelligence=AI）」という命名がいけません。「知能」などと呼ぶから、様子が分からない人が擬人化の誤解を抱きやすくなってしまう。

　飲料の自動販売機の中におじさんが隠れていると思いますか？

　駅の自動改札に人格があると思う人がいるでしょうか？

　ないですよね。それと同じ程度と、しっかり分別するのが1丁目1番地です。

　AIにイラストや効果音を作らせたら、クリエーターに支払う報酬や、主張されるかもしれない「コピーライト」著作権料の必要がありません。

　経費節減、大いに助かるという人もいるでしょう。

　つまり、「権利を主張する主体」たる「自然人格」も「法人格」も、機械ですから有していない。

　これは逆に言うと、「義務」や「責任」を負う主体としてもAIは存在しようがない「無責任」の無法状態を作り出すことも、大人の分別として理解しなければなりません。

　この前の都議選や参院選で「自動システム」が勝手にバラまいたフェイクニュースで票の動向が左右されたとしても、現行法では適切に取り締まる仕掛けがありません。

　この種の議論は、「自動運転車両」について10年以上にわたって検討されてきましたが、車両には「人格」が存在しませんから、もし事故を起こしても責任の取りようがありません。

　これと同じように、AIによる自動システムも「首尾一貫した文章」や「画像」「音声動画」など従来なら著作権を主張しうるコンテンツも「責任主体」がないから取り締まりようがない。

　社会全体がハイリスクの状況にあることを原理から理解し、対策を考える必要があります。

　繰り返し言いますが、AIは「教えられたこと」を適宜取り繕って出力する「電子辞書付自動作文ワープロ」程度の文房具です。

　いま仮に、ここに「ナチス事典」なる架空の百科事典があるとして、それを「真実である」と教え込めば、その通りの出力が出てしまう。

　こんな基本的なことはチャットボット（ChatBot）が出始めた10年ほど前から、知る人にはおよそ周知の基本に過ぎません。

（参考：「マイクロソフトのAI、ヘイトを『学習して』停止」2016年3月25日）

　2020年代以降、世の中に普及して以降のボットに対し、ブラックボックス的に関わるユーザー層が様々な事故を引き起こす種を作る懸念が高まっているわけです。

　そうした中でも、今回は「人の顔色を見て、言うことを変えて追随する」忖度AIをご紹介しましょう。