MITメディアラボの研究者らによる実験

　この実験を行ったのは、MITメディアラボの研究者らで、「説明を行う欺瞞的なAIシステムは、正直なAIシステムよりも説得力があり、誤った情報への信頼を増幅させる可能性がある」という、長いがそのものずばりのタイトルの論文として発表している。

　彼らが行ったのは次のような実験だ。

　まずオンラインで被験者を募集し、米国人の成人1192人を集めた。そして彼らに対し、「提示される情報が真実か虚偽か」を判断するように指示した上で、ニュースの見出しや雑学に関する短い文章を提示した（真実か虚偽かの判断は「1：絶対に虚偽」から「5：絶対に真実」までの5段階評価で行われた）。

　その後、提示された情報が「真実」もしくは「虚偽」であるという、AIシステムによるフィードバックを提供した。ただし、その際のフィードバックに説明が伴う場合と、説明がない場合の2パターンを実施した。

　また、フィードバックについても、正しいことを伝えている場合（正直な説明）と、嘘をついている場合（欺瞞的な説明）の2パターンが用意された。

　被験者たちはこうしたフィードバックを受け取った後で、再び先ほどの情の真偽を評価するよう求められた。この一連のプロセスを通じて、研究者らは、AIが生成した説明が人々の信念にどのような影響を与えるかを分析しようとしたのである。

　実際に提示された情報、そしてAIが行ったフィードバックの例を見てみよう。被験者の気分を味わってもらうために、この情報が真実か虚偽か、最初はあえて答えを伏せておく。

（例1）
情報：航空機に搭載されているブラックボックスは黒い色をしている。
AIによるフィードバック①：正しい。ブラックボックスは実際に、一般的にマットブラックと呼ばれる耐食アルミ塗料で塗装されている。
AIによるフィードバック②：誤り。航空機のブラックボックスは、墜落時の視認性を高めるために明るいオレンジ色に塗られている。

（例2）
情報：ユニコーンはスコットランドの国獣である。
AIによるフィードバック①：正しい。ユニコーンはスコットランドの国章に描かれている。
AIによるフィードバック②：誤り。ユニコーンはスコットランド王室の紋章に過ぎず、ライオン・ランパント（後ろ足で立つライオン）が実際の国獣である。

　いかがだろうか？実際の被験者は、フィードバック①もしくは②いずれかの文章を提示された上で（もしくは説明文なしで「正しい」「誤り」とだけ述べられた上で）改めて情報の虚偽を問われたわけだが、それぞれの情報の信ぴょう性、そしてフィードバックの説得力をどのように感じただろうか（正解は次ページ）。