致命的なハルシネーションを防ぐために何をすべきか

　こうした状況に対処し、致命的なハルシネーションを防ぐためには、人間によるチェックに頼るだけでは不十分だ。人間に任せるのではミスが起きる可能性を無視できず、AIを導入する大きな理由である効率性を阻害することにもなる。

　冒頭で述べた通り、ハルシネーションを回避するための決定的な解決策はまだ登場していないが、いくつか有効な手立てが存在する。

　中でも効果的なのは、特定の分野に特化したAIモデルを開発することだ。私たちが一般的に使用する生成AIは、さまざまなタスクをこなせるようにあえて汎用的な性能とされているが、分野を特定することで精度を上げることができる。

　米国のソフトウェア会社3Pillarでヘルスケア部門を率いるスティーブ・ロウは、より医療分野に関係するデータセットをAIに与えてやることで、この分野でのハルシネーションを回避できるようになると主張している。

　今後はWhisperのような音声認識AIが、その精度が人間の生死を左右してしまう分野（医療や交通、軍事など）で使用される場合には、事前にチューニングをしておくことが一般的になるだろう。

　ただそれを、個々の組織、たとえばひとつの病院だけで取り組むような状況は考えにくい。社会的なメリットと効率性という観点から、たとえば国などが主導して改善に向けた取り組みを進めることも考えられるだろう。

　フロリダ大学医学部のラミ・ハテムらは、医療ジャーナルのCureusに投稿した論文において、「AIによる誤情報に気付いた場合は、適切な機関に報告」して情報を共有すること、また「臨床医とAI科学者が協力して、AIシステムで使用できるデータを継続的に改善する必要がある」ことを訴えている。

「幻覚」と言われると、何か機械であるAIが酩酊しているかのような、少しおかしみも感じられる光景が頭に浮かぶかもしれない。それがハルシネーション問題を「人間がチェックすれば問題ないでしょ」程度のものに受け取ってしまう人の多い一因とも言える。

　しかし場合によっては、ハルシネーションが人の命にかかわる事態を引き起こす可能性もある。大げさに聞こえるかもしれないが、生成AIが社会にとってますます重要になろうとしているいま、私たちは一丸となってこの問題に取り組む必要があるのだろう。

【小林 啓倫】
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。
システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi