AIを超える機械を開発していく中で、スーパーインテリジェンスを目指すのは自然な流れだと酒井氏は語る（写真：KanawatTH/shutterstock）
2枚の画像を見る
目次

　AIは仕事や生活のコミュニケーションにまで侵蝕しつつある。その中で『人間とは何だろうか　脳が生み出す心と言葉』（河出書房新社）を上梓した酒井邦嘉氏（東京大学大学院総合文化研究科教授）は、AIの基本設計自体に問題があると指摘し、大規模データベースに依拠するAIが人々の知性を平均化する危うさがあると言う。人間はAIをどのように超えるべきか、酒井氏に話を聞いた。（聞き手：中川 翠、ライター）

──昨今は、AIをコミュニケーションの相手にしている人が増えています。私は本書を読んで、酒井先生がそのような風潮に違和感を覚えているように感じられました。

酒井：人間は言葉を理解しない植物や動物にも平気で話しかけます。同様に、AIが言葉をまったく理解していないという事実を知ったとしても、話し相手としてのAIの使い道は根強く続くでしょう。本書ではまず、そうした人々の心について問題提起をしてみました。

　とはいえ、コミュニケーションの効率を上げる手段としてAIを使い続けた場合、言葉を軽く扱うようになるのではないかと、怖さを感じます。

　企業研修で私が講演をした時、参加者の方が、毎日対応するメールが多くてAIの利用が欠かせないと言っていました。AIが言葉を理解していなくても「こちらの言いたいことが伝わればいい」「とにかく業務の効率化が重視される」そうです。

　でも、AIが作成したメールを自分が受け取ったと考えてください。人間が書いたメールだと考えれば、文章の背後にある送信者の真意をくみ取ろうとして読むでしょう。けれども、AIの返信だと分かれば、送った人の意図を読み取ろうとしても無意味です。謝罪の言葉が書き連ねてあっても、機械的な社交辞令かもしれないのですから。

　しかも、メールを受け取った当人も返事にAIを使うかもしれません。すると、AI同士が意味も分からずに言葉を連ねた薄っぺらなやり取りをするばかりで、人間の真意は置いていかれてしまいます。星新一の小説『肩の上の秘書』に、同様の話が描かれていました。

　これは恐ろしいことです。言葉を理解できないAIを心のコミュニケーションの手段として使う場合、内容の食い違いや失言があっても誰も責任を取れなくなります。人間不在のまま「効率的な」ビジネスが進んでいくというのは、なんとも不気味ではありませんか。

　ある企業が、カスタマーセンターの対応にAIを使うとしましょう。それは「私たちは顧客向けに人間的な対応をしません」「製品の不具合にも機械的な対応で十分なのです」「AIとの勝手なやり取りには責任も取りません」と宣言するようなものです。いずれも企業意識や理念に反するでしょう。どんな会社も、社外と社内に対して人を機械として扱い、AIを使った効率化を正当化できるような部門があるでしょうか。

──そのようなAIへの危惧は、どのようにすれば払しょくできるのでしょうか。