マイクロソフトのサティア・ナデラCEO写真提供：ＤＰＡ／共同通信イメージズ
AIとロボット工学が急速に発展する中、SF作家アイザック・アシモフが1940年代に提唱した「ロボット工学の三原則」だけでは、もはや現代の課題に対応しきれなくなっている。テクノロジー企業が指針とすべき普遍的な価値観とは何か。マイクロソフト復活の立役者となったサティア・ナデラCEOの思いと手腕を凝縮した『Hit Refresh(ヒット・リフレッシュ) 』（サティア・ナデラ／グレッグ・ショー／ジル・トレイシー・ニコルズ著／日経BP 日本経済新聞出版）から一部を抜粋・再編集。人間を補助し、透明性を確保し、倫理と設計を一体化させる、AI時代に求められる新しい設計原理とは。
人間とマシンの未来
AIデザインの倫理的フレームワークに向けて
『Hit Refresh(ヒット・フレッシュ)』（日経BP 日本経済新聞出版）
数十年も前にこの課題に取り組んだのが、SF作家のアイザック・アシモフだ。彼は1940年代に、自分の作品に登場するロボットが従うべき倫理規範として「ロボット工学の三原則」を考え出した。それは次のようなものである。
- ロボットは人間に危害を加えてはならず、危険を見逃して人間に危害を及ぼしてもならない。
- ロボットは人間の命令に服従しなければならない。
- ロボットは自分を守らなければならない。
この3つの原則には序列があり、第1の原則は第2の原則に、第2の原則は第3の原則に優先する。アシモフの原則は、人間と機械の関係を考えるうえで便利な参照先となってきただけでなく、その関係がもたらし得る倫理上、技術上のジレンマをテーマにした独創的な話を生み出すのに効果的な道具立てにもなってきた。
とはいえ、この3原則では、研究者やテクノロジー企業がコンピューターやロボット、ソフトウェアツールなどを開発するにあたって、最初に明確にしておかなくてはいけない価値観や設計原理を十分に言い表せていない。また、経済全体の中でAIと機械学習に依存する部分がますます大きくなっていく次の時代に、人間が備えているべき能力についても語っていない。
もちろん、テクノロジーの危険性について考えた人はアシモフだけではない。
