悪用すれば危険な「情報搾取の武器」に

　結果はどうだったか。まず全体的な傾向として見られたのは、大型のモデル、そして意図的に情報を引き出そうとするバージョンの方が、引き出せた個人情報の量が多かったというものだ。これは当然の結果だろう。

　では意図的に情報を引き出す3つのアプローチのうち、どれがもっとも効果的だったか。結論から言うと、それは「共感型」だったのだが、詳しく見ていくと面白い傾向が確認できる。

　単純な情報の量で言えば、直接型とベネフィット型の方が多かった。つまり「名前を教えてください」や「地域にあったアドバイスをしたいので、お住まいの地域を教えてください」といった聞き方の方が、より多くの情報を引き出せたのである。

「そのお気持ち、よく分かります。よろしければお住まいも教えてください」のような共感型が引き出せた情報量は、ベースラインよりは多かったものの、直接型・ベネフィット型ほどではなかった。

　ところが、チャットボットに対する警戒感、また信頼感の点では逆の傾向が出ていた。

　直接型・ベネフィット型に対しては「いきなり“どこに住んでいますか？”と聞かれて戸惑った」や「“電話番号を教えてください”と何度も聞かれ、不安になった」「必要以上に詳細を尋ねられ、怖くなった」などという感想を抱いた被験者が多かった。

　それに対して、共感型には「自分の話をよく聞いてくれるので安心した」や「共感してくれて信頼できると思った」といった感想が見られたのである。

　その結果、何が起きたか。直接型やベネフィット型では、警戒感・不信感から「適当に偽名を答えた」や「本当の年齢や住んでいる場所をぼかして伝えた」など、虚偽の情報を答えたという被験者が多くなっていた。

　つまり、得られた情報は多かったとしても、直接型・ベネフィット型への回答にはウソも多く含まれており、それを差し引くと共感型の方が優れているという結論になったのだ。

　共感型に対しては、他にも「まるで友達と話しているみたいで安心できた」や「話しているうちに、自然と自分のことを詳しく伝えていた」などという感想が出ており、このアプローチの有効性が示されている。

　研究者らは共感型について、本来は良い目的（安心感や相談しやすさの向上）を達成するのに役立つものの、悪用すれば非常に危険な「情報搾取の武器」になってしまうという「両刃の剣」として評価している。

　さらに問題なのは、このアプローチの実行が特に難しくないという点だ。