チャットボットのミスでイメージダウンに見舞われたエア・カナダ（写真：ロイター/アフロ）チャットボットのミスでイメージダウンに見舞われたエア・カナダ（写真：ロイター/アフロ）
3枚の画像を見る
  • 生成AIを活用する企業は増える一方だが、それとともに、AIの間違いによって損害を被る企業も増えている。
  • エア・カナダはチャットボットの誤回答で賠償金を支払うはめに。別の企業は生成AIが作成した解雇合意書に重要な項目が欠落していたため、高額な和解金を支払わなければならなくなった。
  • 企業に求められるのは、生成AIは間違いを犯すという前提に基づいた準備や行動。AIが間違えているかどうか分からない領域では活用すべきではない。

（小林 啓倫：経営コンサルタント）

チャットボットで損害を被ったエア・カナダ

　企業内でのAI活用が加速している。社員や顧客と自然な言葉でやり取りできる生成AIが登場したことで、AIを応用できる業務が増え、具体的な成果も見えやすくなったためだ。

　たとえば、カナダで1855年に設立され、現在では同国で最大の規模を誇るTD銀行（Toronto-Dominion Bank）は、コンタクトセンター業務に生成AIを活用したバーチャルアシスタントを導入することを発表した。

◎TD launches new generative AI pilots to help empower colleagues to deliver legendary customer experiences（TD）

　このバーチャルアシスタントは人間のアシスタントに代わって顧客への応対を行うとともに、顧客対応の効率化と顧客満足度の向上を図るため、必要に応じて顧客との会話内容を要約して人間のアシスタントにつなぐという。

　同行はこの発表の中で、2023年にスタンフォード大学とマサチューセッツ工科大学（MIT）が共同で行った研究（「Generative AI at Work」）を引用し、コンタクトセンター業務へのLLM（大規模言語モデル、生成AIの頭脳となる技術）の導入について、既に効果があることが証明されているとしている。

◎Generative AI at Work（NBER）

　同研究によれば、調査対象となった企業コンタクトセンターにおいて、1時間あたりに解決された顧客からの問い合わせ数が、平均で14％増加したそうである。

　また初心者のアシスタントの業務効率アップに最も大きく貢献しており、LLM導入後、彼らは1時間あたり35％も多く顧客の問い合わせを解決することができるようになったとしている。

　まさしく良いことずくめといったところだが、残念ながら同じカナダにおいて、つい最近気になる事件が起きている。