スーパーインテリジェンスとは何か？

酒井：大切なのは、人間科学をサイエンス（自然科学）にすることです。

　これまで人間の知性は、人文科学で研究されるべき分野だと考えられてきました。ですが、チョムスキーによる理論の核心は、知性の根底にある言語が人間の脳の中にあるという生物学です。彼のおかげで言語研究に自然科学の手法が取り入れられ、状況が一変しました。真の「コペルニクス的転回」だと言えます。

　チョムスキーは、「言語は人間の生得的かつ普遍的な能力である」という革命的な人間観を提唱しました。私たち研究者はその実証とともに、世の中に受け入れられる論を構成し浸透させる必要があります。ダーウィンの進化論であっても、「人が猿から進化するはずはない」と強烈に批判され、受け入れられるのに時間を要したことを思い出してください。

　とはいえ、正反対の考え方が存在している状態は学問的に健全です。本書の読者の方々には、小説を通して、どのような考えに共感するかを自ら判断していただきいのです。

　学者にとって論文や専門書は「直球」ですが、エッセイはスライダー、小説はカーブに近いです。本書では、複数の登場人物の対話形式で話が進んでいきます。対話形式の小説にした理由は、さまざまな考え方を登場人物の視点とともに提示できるからです。読者は、二人の主人公の視点に共感したり、疑問を共有したりしながら、自分の考えを作り上げていくことができます。

　読者の皆さんがこの変化球を受け止めてくれれば、「人間らしさとは何か」「人間らしい知性に必要な研究は何か」「現在のAIのリスクは何か」といった問題が私の手を離れ、皆さんが自分の頭で考えられるようになるでしょう。そうした想像力が、今の時代には特に大切だと思います。

──本の中では「スーパーインテリジェンス」についても触れていました。

酒井：スーパーインテリジェンス（以下SI）は、データベースに左右されることなく合理的な推論のできる、高い知性と道徳性を持った機械です。また、SF作家のアイザック・アシモフが提唱した、「人への安全性、命令への服従、自己防衛」という「ロボット三原則」に従います。SIは人間の思考を導き、より良い判断の助けになります。

──まるで神様みたいですね。人類には、本当にSIが必要なのでしょうか。

酒井：AIを超える機械を開発していく中で、SIを目指すのは自然な流れだと思います。

　現状のAIを「相棒」レベルで使うには、危険が大きすぎます。AIは心がなく、価値判断も意味処理も高度な論理判断もしていないのですから。そんなAIに感情移入したら人間のほうがおかしくなってしまうでしょう。

　よしあしは別として、人間とは感情移入しやすい心を持った生き物です。コミュニケーションの対象に自分を部分的に投影できる特性を持っているからこそ、人間同士で相手の心を想像したやり取りができます。宗教的な行動に見られるように、人間を超えた自然現象にも働きかけて、お告げを得たかのような霊感や錯覚を得ることもあります。

　このような人間の特性を考えると、人間を超えて人間を導く確かな存在や、倫理感があって規範となる知性を機械に求めていくのはごく自然な流れです。そのためには、人間が健全な判断能力を保ちながら、人間を大切にするようなSIを現在のAIとまったく異なる設計で作っていく必要があります。