次のAIのブレイクスルーも必ず人間の脳から生まれる、超知能AIシステムを開発するために必要な「心の理論」

数百万台のロボットが感情を持ったら

──心や感情の議論と関係のあるところですが、人間の持っている利他性について言及されています。AIの開発において 利他性はどんな意味を持ちますか。

ベネット：いかにして安全なAIを構築するか、これはかなりの難題です。利他の概念をプログラムすればいいと思われがちですが、人間の歴史においても利他の精神（道徳心・正義感）のもとにひどいことがいくらも行われてきました。

「90%の人口を救うために10%の人口を殺しましょう」「そうすれば約10倍の人を救える」とAIなら言うかもしれません。そんな考え方はごめんですね。

　利他の精神をどう定義するのか。そこにはさまざまなルールがあり、ただ多くの人の幸福を最大化すればいいということではありません。必要なのは、何をしてはならないのかを定義すること。倫理的な規範を構築することです。利他の精神は、1つの限定された価値観として取り出すことはできません。

　AIに人間の好みについて深く配慮させなければなりませんが、それだけでは不十分です。なぜなら、AIが人間や人間の好みを尊重しても、どのように異なる人間の好みを重みづけしてうまく判断するか（情報を交換するか）という問題があるからです。

ギャラリーページへ

　まもなく人類は、AIシステムの正解は何かという問題により深く直面するでしょう。まだ十分に議論されていない哲学的課題です。AIが賢くなるほどAIが独自の倫理観を持つリスクも発生します。おそらく人間的にしようとするほどそうなる。

　そして、数百万台のロボットが感情を持ったら、我々自身もまた新しい倫理的な枠組みを必要とするでしょう。誰がAIの電源を入れたり切ったりするのか。AIの日々の過ごし方を誰が指示するのか。その結果にAIの学びや利他の形も変わります。

　AIが個人の好みより人類の好みを優先するほうがいいのかなど、難しい問題が次々と発生します。それでも、さまざまな危険を回避するために、利他という概念自体はAI開発においてますます中心的なテーマになることは間違いありません。

マックス・ベネット（Max Bennett）
Bluecore共同創業者
ニューヨーク市に拠点を置くAI企業、Albyの共同創業者兼CEO。ワシントン大学を首席で卒業し、経済学と数学の学士号を取得。同大学では、最優秀経済学優等論文に与えられるジョン・M・オリン賞を受賞した。ゴールドマン・サックスのトレーダーを経て、Bluecoreの共同創業者兼最高製品責任者に就任した。AI関連技術の特許を複数保有しており、進化神経科学と知性をテーマにした査読付きジャーナルに多数の研究論文を発表。2016年、フォーブスの30歳未満の30人のリストに選ばれた。

長野光（ながの・ひかる）
ビデオジャーナリスト
高校卒業後に渡米、米ラトガーズ大学卒業（専攻は美術）。芸術家のアシスタント、テレビ番組制作会社、日経BPニューヨーク支局記者、市場調査会社などを経て独立。JBpressの動画シリーズ「Straight Talk」リポーター。YouTubeチャンネル「著者が語る」を運営し、本の著者にインタビューしている。