著者フォロー
(Photo by peshkov / iStock / Getty Images Plus)
急速に進化する科学技術は、私たちの生活や社会、ビジネスの在り方に大きな変化をもたらしている。その一方で、最先端技術に関する倫理的・法的・社会的な課題――「ELSI（エルシー）」が浮かび上がっている。
WEBメディア「シンクロナス」で連載中の『ELSI最前線』では、話題の新技術やビジネス動向を通じてELSIの考え方をひも解き、社会とビジネスにおける実践的な視点を提供。
今回は、注目を集めるAI技術のひとつ「感情認識技術」に焦点を当て、倫理学を専門とする長門裕介氏がその論点と課題を詳しく掘り下げる。（「感情認識技術のELSI」編より一部を掲載）
企業や学校でも実用化が進む「感情認識技術」とは
近年注目を集めているAI技術の一部として「感情認識技術」がある。感情認識技術は表情、（ネット上のものを含む）行動履歴、バイタルデータなどから感情を分析する技術で、ある予測ではその市場規模は2026年までに370億ドルまでに成長するという（註1）。カメラで読み取った表情を解析するものや、スマートウォッチによって心拍数や脈波、音声などを読み取るものもある。
こうした技術によって私たちは体重や体温を記録するのと同じくらい簡単に日々の感情を記録することができる。
体重が増加傾向にあるならダイエットを考えなければならないし、体温が安定していないなら病院に行くべきだ。それと同様に、ストレスが高い日が続いた場合は休みを取ることを考えなければならない。
ストレスの蓄積の度合いは自分自身にとって不明瞭であることを考えると、デバイスによって収集された客観的なデータをもとにセルフチェックが手軽にできることはメンタルヘルスの維持のために重要である。
また、学校の教師や企業の管理職のような立場からすれば、精神的な不調やモチベーションの不足を抱えている生徒やチームメンバーに対して迅速な介入を行うことは重要な業務の一部だろう。
感情認識技術はこうした介入の要否を判断する手がかりを与えてくれそうである。学校・企業向けのこうしたサービスはすでに実用化され、社会のなかに確実に浸透してきている。
感情データでウェルビーイングを最大化する
さらに、個人や組織単位ではなくより広範に、つまり公共空間全域にこうした感情認識技術を適用することも考えられる。
たとえば関西経済同友会は2022年に「人々の幸福『ウェルビーイング』を実現する 未来ビジネスの創出に向けて」と題する提言を行っている（註2）。
人々が過ごす未来社会の生活は、テクノロジーの進展により、個人のあらゆる日常データが常時収集・分析・フィードバックされるようになっている。つまり、人々は日常生活を通じて個人の健康が管理され、守られており、健康でいられる状態である。
日常生活の導線上に人々をウェルビーイングに導くあらゆる仕掛けが埋め込まれており、未病の改善や健康の維持に誘ってくれる。その結果、健康寿命は延びるとともに、笑顔が絶えず、幸福を実感できる日々を過ごすことができる。これらはテクノロジーによって実現されるが、人々に意識されず、違和感なく生活に溶け込んでいる。人々が望む健康や幸福、つまりウェルビーイングが、日常生活の中で自然と実現されている社会である。
ここで直接に感情認識技術に触れられているわけではないが、「あらゆる日常データ」のなかに感情認識をもとにしたメンタルヘルス上のデータが含まれていると考えるのが自然だろう。
さらに「日常生活の導線上に人々をウェルビーイングに導くあらゆる仕掛け」が埋め込まれる、という表現からはナッジ（行動経済学的知見をもとに個人を非強制的なしかたで望ましい行動へと促す社会技術）の大規模な実装を想定していることがうかがえる。
つまり、感情認識を含む個人のヘルスケアデータの大規模な収集・分析・フィードバックにナッジを組み合わせて、個人のウェルビーイングを最大化しようというビジョンが掲げられているのである。
メリットの一方、不安や懸念も……
こうした試みが個人の健康維持や組織や地域社会の活性化に資することは十分にありそうだ。
私自身のことを考えてみれば、日々の食事や体重の記録すら自主的に記録し続けることは面倒で、続かない。もしかしたら知らず知らずに蓄積されたストレスを抱えているのかもしれないが、それをどのように自己診断すればいいかもよくわからない。
客観的な数値をもとにセルフチェックのためのデータが自動的に蓄積され、それをもとにアドバイスをしてくれる人がいたらありがたいことこの上ない、というのが正直な感想である。
しかし、こうしたメリットを認めつつも、重要な疑問が残る。
一つは、私たちの感情という極めてプライベートな情報の収集と利用に関する手続きの問題だ。誰が、どのような目的で、どのように感情データを収集し分析するのか。その利用は適切に管理され、目的外利用は防止されているのか。
もう一つは、そもそも感情という複雑なものを技術的に正確に測定できるのかという問題である。体重計のように明確な数値として測定できるわけではない感情を、AIはどのように理解し、評価しているのだろうか。
次回は、感情認識技術の社会実装に伴うこれらの懸念について、より詳しく検討していきたい。
（註1）Crawford, K. (2021) “Time to regulate AI that interprets human emotions,” Nature 592, 167. https://doi.org/10.1038/d41586-021-00868-5
（註2）関西経済同友未来ビジネス委員会(2022)「人々の幸福『ウェルビーイング』を実現する 未来ビジネスの創出に向けて」https://www.kansaidoyukai.or.jp/wp-content/uploads/2022/04/220425_Maintext.pdf
長門裕介
大阪大学社会技術共創研究センター講師。専門は倫理学、特に幸福論や人生の意味、先端科学技術のELSI（Ethical, Legal and Social Issues 倫理的・法的・社会的課題）。最近の業績に”Addressing trade-offs in co-designing principles for ethical AI”, AI and Ethics, vol.4-2, （A. Katiraiとの共著、2024)、R.ハルワニ『愛・セックス・結婚の哲学』（共訳、名古屋大学出版会, 2024）など。 >>プロフィール詳細
