生成AIはしばしば幻覚を見る（提供：アフロ）
ギャラリーページへ
  • オンライン英英辞書サイトDictionary.comやケンブリッジ英英辞典が今年の単語に「hallucinate（ハルシネート）」を選んだ。これは「幻覚を見る」「幻覚を起こさせる」という意味の言葉だ。
  • なぜこの言葉が「今年の単語」に選ばれたのかというと、生成AIによる「ハルシネーション」、すなわちまったく事実でないことがさも事実であるかのようにアウトプットされる現象が問題になっているからだ。
  • 日常で頻繁に使うツールに生成AIが実装される時代、AIによるハルシネーションをどう防ぐかが世界的な課題になっている。

（小林 啓倫：経営コンサルタント）

2つの辞書サイトから選ばれた「今年の言葉」

　オンライン英英辞書サイトDictionary.comが、今年の言葉（Word of the Year）を発表した。その言葉とは「hallucinate（ハルシネート）」。「幻覚を見る」、あるいは「幻覚を起こさせる」という意味の英単語で、名詞になると「hallucination（ハルシネーション）」という形になる。

　ハルシネーションの方であれば、最近の生成AI関連ニュースをご覧の方にはもうお馴染みだろう。生成AIから、まったく事実でないことがさも事実であるかのようにアウトプットされる現象、それをハルシネーション（幻覚）と呼び、今年はさまざまな場面でこの現象による問題が起きることとなった。

　そこに大きな関心が高まったことで、今年の言葉に選ばれたというわけである。

　実は今年11月にも、ケンブリッジ英英辞典が今年の単語に「hallucinate」を選んでいる。選出の理由もまったく一緒だ。2つの辞書サイトがまったく同じ単語を選んだというのは、いかにこの問題が社会に大きなインパクトを与えているかの裏返しと言えるだろう。

【参考資料】
◎The Dictionary.com Word of the Year is hallucinate.（Dictionary.com）
◎The Cambridge Dictionary Word of the Year 2023（The Cambridge Dictionary）

　たとえば、最近も興味深い事件が起きている。

　英テレグラフ紙の報道によれば、英国でとある女性が、税金をめぐる訴訟を起こした。その中で彼女は、過去の判例を引き合いに出して自らの主張の正しさを訴えようとしたのだが、それは生成AIのハルシネーションが生み出した偽の判例だったのだ。

　事の顛末はこうだ。英国に住むフェリシティ・ハーバーという女性が、自らが所有する不動産を売却して利益を得た。その際に税金を正しく納めていなかったとして、英HMRC（歳入税関庁、日本の国税庁にあたる組織）から、3265ポンド（日本円でおよそ60万円）の罰金を科せられた。彼女はそれを不服として、裁判所に訴えた。

　ハーバーは弁護士を雇わず、自ら弁護を行うことにした。その際に彼女が裁判所に提出したのが計9件の判例である。そのうち5件が精神衛生上の問題があったという理由、残り4件が法律を知らなかったという理由で、罪に問われなかったという内容だった。彼女は裁判所に対し、それは自身の「弁護士事務所に勤める友人」から提供されたものだと説明していた。

　ところが、実際にはハーバーは裁判所に提出する資料を、ChatGPTを使って作成していた。そして、この判例の説明文が生成される際に、問題のハルシネーションが起きていたのだ。

【参考記事】
◎Lawyers to use ChatGPT AI rival to draft legal documents（The Telegraph）

　ハーバーが頼ったChatGPTは、いったいどのような間違いを犯していたのだろうか。