望まれる「正しく嘘をつくロボット」

　研究者たちも、前述の「隠蔽状態欺瞞」がプライバシー侵害や信頼関係の破壊につながると考え、ロボットを社会的な環境で使用する際には、この種の欺瞞行為を避けるための設計や運用が必要であると指摘している。

　またこの種の欺瞞が、ロボットの開発者や管理者に対する批判にまで至り、場合によってはロボットの使用を中止してしまう可能性があることを理解し、倫理的なガイドラインや透明性のある設計プロセスが必要だと強調している。

　難しいのは残りの2つの欺瞞、特に「優しい嘘」が許されるケースをどう理解し、活用するかという点だ。

　確かに認知症の患者に対し、亡くなった配偶者が「生きている」と嘘をつくことは、場合によってはむしろ積極的に行うべき行為だと言えるだろう。しかしいつそのような嘘をつくべきかを判断し、適切な「偽情報」を生成するというのは、一筋縄ではいかない。

　AIが上手く嘘をつけるようにするというのは、嘘をつかないようにさまざまな対抗策を取ることよりも、はるかに難しい。

　いま「AIアラインメント」という研究分野が注目されている。これはAIシステムの目標や行動を、人間の価値観や意図に合致させることを目指し、そのための理論や手段を研究するというものだ。

　簡単に言えば、AIが人間の望むように振る舞い、人間の利益になるように行動することを保証するための取り組みである。

　正しく嘘をつくことのできるロボットも、こうした研究の中から実現されるのだろう。ある意味で私たちはいま、多くのSF映画で描かれてきた「ロボットが進化して普通に嘘をつく」ようになった世界の、そのさらに先の世界に踏み込もうとしているのかもしれない。

【小林 啓倫】
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。
システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi