AIのヨイショを回避するために

　この論文から得られる教訓は明確だ。私たちが注意すべきは、「AIにウソをつかれること」だけではない。「AIにヨイショされ、間違った確信を抱いてしまわない」ことにも、同じくらい警戒しなければならない。

　AIに「結論」や「同意」を求めると、迎合のリスクが上がる。しかしAIに「反証」や「代替仮説」を求めれば、AIの迎合的な弱点が弱まって、仮説を正しく検証できる可能性が広がる。

　たとえば、次にAIへ相談するときには、「どう思う？」ではなく「私の仮説が間違いだとしたら、どんな事実が観測される？」などという聞き方をしてみる。あるいは「反対意見があれば、遠慮なく示してほしい」と求める。

「別の説明を3つ出し、どれが最も筋が通るか比べてほしい」と依頼したり、「この結論を崩す反例を挙げてほしい」と促したりするのも良いだろう。要するに、AIをヨイショ係ではなく検証係にするのだ。

　この切り替えが効くのは、シコファンシーがもたらす害が「間違いの注入」ではなく「反証の欠如」だからである。反証を意識的に取りに行けば、少なくとも確信だけが肥大する事故を減らすことができる。

　ハルシネーションはユーザーに明確な害を与えるため、「避けよう」「警戒しよう」という意識が生まれやすいという点で、まだ対処しやすいと言える。しかしシコファンシーはユーザーにとって不快でないだけに、それを回避しようという意識が生まれづらくなる。

「なんだかチャットボットを使っていると気分が良いな」と感じたときこそ、逆に警戒心を高める──。そんな意識を持つことから始めないといけないのかもしれない。

小林 啓倫（こばやし・あきひと）
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi