AIの進化を手放しで喜ぶべきではない？

——活字読み取りのAIが進化して、人間がいらなくなる日は来るのでしょうか。

河野：もちろん、今よりも技術的には優れた機能が今後も搭載されるでしょうし、そこに私も期待はしています。ただ、そうなったらなったで、余計怖いことになるとも思うのです。

　つまり、紙であれネットであれ、あらゆるデータをAIが完璧に近い精度で読み取れるようになったら、今度は人間が「AIは絶対に間違えない」と思い込んでしまうということです。すると、今のように、データの打ち間違いを発見することは難しくなるでしょう。AIを疑えないと、間違ったデータを基に、人間社会が構成されるようになるかもしれません。

——AIに疑義を挟めなくなった社会、というのは、かなりディストピアに思えますね。AIが特定の意図を持つようになったと仮定したら、さらに恐ろしいものがあります。

河野：生成AIの能力は確かに素晴らしいですし、全く否定する気はありません。仕事の効率化にも役立つツールになるでしょう。

　ただ、やっぱりデータの入力は「ディテールが全て」、つまり、間違いをなくしたり、セキュリティ上の懸念を払拭したりすることが仕事の価値なので、今のところは人間がやる必要があるでしょうね。

　今後、いくら技術が発展したとしても、「人間がAIを使いこなす」という意識を忘れてはいけないと思います。AI自身に、善悪の判断はできませんし、責任を取ることもできないのですから。人間社会のあらゆる優れた「インテリジェンス」も、元をたどれば正確な「データ」があってこそ導き出されます。だからこそ、データ入力の仕事では、間違いに妥協してはいけないのです。