陰謀論に反論するチャットボットの対話力

　陰謀論ではない「正しい主張（何をもって「正しい」と判断するのかについては議論の余地があるが）」を行うチャットボットということであれば、それは既に数多く存在している。チャットボットにどのような主張を行わせるのかは、まったくもって開発者や運営者の自由であり、好きにメッセージを拡散させることができる。

　しかしいま、そこからさらに一歩進んだチャットボットが研究され始めている。それは特定の陰謀論を前提として、それに反論し、陰謀論を信じてしまった人々を説得することを目的としたチャットボットだ。

　たとえば最近、新型コロナウイルスのパンデミックをきっかけとして、特定のワクチンについて「それは本当は人類滅亡を目的とした生物兵器だ」などと主張する陰謀論が大規模に拡散されており、実際にそれを信じてしまっていると見られる人も多い。

　一方で、そうした人々を頭から否定するのではなく、彼らに寄り添って丁寧に説得を繰り返すことで、陰謀論から脱出させることに成功したケースも数多く報告されている。

　ただ、そうした手間ひまのかかる説得はなかなかできるものではなく、個人個人に合わせたメッセージのカスタマイズも必要になる。そのため、AIチャットボットを通じた大規模な陰謀論の拡散のスピードに追い付くことは難しい。そこで人間の代役となる「反論チャットボット」を用意し、効率的に対応を行ってはどうかというわけだ。

　もっとも、そのようなボットを本当に開発し、成果を上げることはできるのだろうか。この疑問について、実際に実験を行って考察した研究結果が発表されている。

　これはMIT（マサチューセッツ工科大学）の研究者らが共同で行ったもので、「AIとの対話を通じて、陰謀論を永続的に減少させる」という論文として発表されている。

　それによると、彼らは実際に陰謀論を信じていると申告してきた被験者2190名に対し、GPT-4 Turbo（ChatGPTの頭脳となっているAIモデルの一種）を使用して開発されたチャットボット「DebunkBot（反論ボット）」と対話させた。

　このチャットボットは、各被験者が信じている陰謀論に合わせてカスタマイズされた反論を行うよう設計されており、さらに丁寧で理解しやすい言葉を使って、被験者に双方向の対話を促すよう指示されていた。

　このボットに、各被験者とそれぞれ3回の対話を行わせ、その後で被験者の信念がどの程度変化したのかが評価されたのである。すると、陰謀論に対する信念が約20%減少し、その効果は少なくとも2か月間持続することが確認された。

　この研究で確認された成果を、もう少し詳しく解説しておこう。