著者フォロー
心が未熟な人間が生み出したAIの末路
──完璧なSIは、不完全な人間にいつか愛想を尽かすのではないでしょうか。
酒井：SIのような非常に高い知性から見れば、人間は自分勝手で移り気、そして一貫性のない存在だと映るかもしれません。しかも人間には、せっかくの高い知性を無駄遣いして人を欺いたり、陥れたりするようなブラックな面もあります。
その一方で、世界中のさまざまな不正に気付き、法的に裁くことができるのも人間であり、罪人を更生させるのもまた人間です。戦争や紛争には、それを修復するだけの知性が求められます。過去には、非暴力と平和の思想を貫いたガンディーやマザー・テレサのような人たちがその役割を果たしてきましたが、現代にはそのような指導者がほぼ皆無なのです。
人で難しければ、機械でもいいからSIを作りたいと望むことになります。手塚治虫先生の「火の鳥」が、古くはフェニックス（不死鳥）や鳳凰の伝承に近いように、宇宙の摂理で人間を俯瞰的に見つめる存在が必要なのでしょう。
SIが実現すれば、一面的なプロパガンダや主義主張に左右されることなく、紛争を解決するための平和的な解決策を示すことができるでしょうし、独裁者やカルト教祖などが現れても、彼らの噓を暴くことで人々を破滅から救える可能性があります。
これまでの文学作品が人間の心のさまざまな特性に光を当て、特にSFの分野で人間を超えた知的生命体を新たな切り口で描こうとしてきたことが、人間と科学の未来を物語っています。
──SIと人間が関わることで、人間の知性が良い方向に変化する可能性はありますか。
酒井：われわれの脳ができた十数万年前以来、脳の基本デザインは不変です。数千年のスケールで進化するものではありませんから、将来起こりうる脳の変化に期待してはいけません。また、人間が生み出した新しい科学技術が良いものだという保証もありません。ハンバート ハンバートの歌詞のように「日に日に世界が悪くなる──」のをどうするか。
私たちは頭でっかちで、AIのリスクが見えていないようです。その意識を変えない限り、心が未熟なまま人間が作り上げてしまったAIは、ロボット兵器として社会を破壊し、人類そのものを滅ぼしかねません。
手塚治虫もチョムスキーも、そのことに気づき、彼らなりのやり方で人類に対して警鐘を鳴らし続けてきました。本書は、私から未来の人々へのメッセージでもあります。
ゆがんだ技術を生かすも殺すも、賢い選択ができるのは読者の皆さんです。読書を自分なりの思考の糧とすることで、どこかで立ち止まって知恵を結集し、人類のより良い未来について議論するきっかけになればと願っています。
酒井 邦嘉（さかい・くによし）
東京大学大学院総合文化研究科教授
言語脳科学者。1964年、東京都生まれ。東京大学医学部助手、ハーバード大学リサーチフェロー、マサチューセッツ工科大学客員研究員、東京大学大学院総合文化研究科助教授・准教授を経て、2012年に同教授。02年に『言語の脳科学』（中公新書）で第56回毎日出版文化賞受賞。
中川 翠（なかがわ・みどり）
ライター
金沢大学文学部文学科英語英米文学コース卒業。主婦、広告営業、海外子会社立上運営、通訳など、言葉と言葉の間に立つ仕事、人に出会う仕事に一貫して携わってきた。対話を手がかりに、人間の多面性を覗き込んでいきたい。YouTubeチャンネル「著者が語る」の運営に参画中
