人工知能がうつ病になる日

米持：2016年3月、MicrosoftがAIチャットボットシステムである「Tay」をTwitter上に公開しました。公開から24時間も経たないうちに、「Tay」は人種差別的な発言などをするようになりました。結局、Microsoftは「Tay」に再学習をさせるため、Twitterから退場させました。

　コンピューターや機械をできるだけ人間に近づけようとすることは、人間と同じように外から入ってくる情報を何らかのかたちで記憶させないといけません。記憶しないと、成長しない。でも、記憶する過程では、人間が学習して欲しくないということも学習するでしょうし、悪い影響も受けるでしょう。人工知能がうつ病になる。そういうこともあり得ると思います。

　人間は成長していく過程で、これをやってはいけないという道徳観念を学んでいきます。ただ、人間の中でも生まれつきそういった道徳観念を持つことのできない性質の人間もいます。コンピューターにも、そういった例外的なものが出てくるかもしれません。

　そういった意味では、コンピューターや機械に対して「人間を最優先にする」ということを事前にプログラミングしていくことは必要かもしれないですね。

──『バビル2世』『ナイトライダー』『わたしは真悟』『火の鳥 未来編・復活編』『2001年宇宙の旅』『ブレードランナー』『新造人間キャシャーン』『ターミネーター』『攻殻機動隊』の9つのSF作品を本書で取り上げています。どのような観点で、これら9つの作品を選んだのでしょうか。

米持：この書籍は、2017年5月からIT情報サイト「@IT（アットマーク・アイティ）」で連載していた「テクノロジー名作劇場」に加筆・修正を加えたものです。

　2017年といえば、ディープラーニングが登場し、世間は第三次人工知能ブームの真っただ中でした。そこで、「@IT」でコンピューターやAIについて解説する連載をしよう、という話になりました。

　作品選定の段階で、昭和50年代以降の作品に絞り込んでいきました。昭和50年代より前には、AIやコンピューターが出てくるような作品があまりありません。昭和50年代に入ると、コンピューターの認知度が上がってきて、どうやらそれがとてつもなく賢いということが世間的に知られるようになりました。SFにAIやコンピューターが出てくるようになったのも、その頃です。

　他にも「おじさんが分かるような作品」を取り上げる、ということも連載開始当初のコンセプトの一つでした。昭和50年代頃の作品は、まさにそのコンセプトに合致しています。

　狙い通り、「テクノロジー名作劇場」は中年男性、いわゆる「おじさん」の人気を博しました。「おじさんホイホイ」なんて呼ばれていましたね（笑）。