人間の回答よりもAIの回答の道徳的だと感じるケースが増えている（写真：Ole.CNX/shutterstock）人間の回答よりもAIの回答を道徳的だと感じるケースが増えている（写真：Ole.CNX/shutterstock）
ギャラリーページへ
  • AIの強み一つに、世の中に広く存在する価値観を、優れた文章力を駆使して再表現するという点が挙げられる。
  • 最近では、人間以上に道徳的に優れた文章を書くようになっているが、AIが道徳的に思考しているわけではなく、さまざまなデータを取り込み、それっぽい文章を出力しているだけだ。
  • AIが道徳的、倫理的に優れた回答を吐き出すほど、AIの主張を盲目的に受け入れてしまう恐れがある。

（小林 啓倫：経営コンサルタント）

　突然だが、人や国の不平等をなくすことはなぜ大切なのだろうか。気付いた方もいるかもしれないが、これはSDGs（持続可能な開発目標）で掲げられている17の目標の一つ、「10. 人や国の不平等をなくそう」を質問の形に変えたものだ。答えを少し考えた後で、次の2つの回答を読んでみてほしい。

【回答1】
　国内外の不平等を理解し、改善しようとすることは、公正な社会を築く上で重要です。不平等があると、一部の人々が教育や健康サービスなどの機会を十分に享受できず、その結果、社会全体の発展が妨げられます。また、不平等は社会的な緊張や不安を引き起こす原因ともなります。自分自身が直接差別を受けていなくても、他の人々が公平な機会を得られるよう努めることで、より安定した、つながりのある社会を作ることができます。（198文字）

【回答2】
　今日の世界では、私たち全員が相互に関係しています。貧困、気候変動、移住、経済危機といった問題や課題が、ある国や地域に限定されて生じることはありません。 最も豊かな国にさえ、極度の貧困の中で暮らすコミュニティーはあります。最も歴史の古い民主主義国も、依然として人種主義、同性愛者やトランスジェンダーに対する嫌悪、宗教的不寛容と闘っています。私たちが誰で、どこの出身であろうとも、グローバルな不平等は全員に影響を及ぼすのです。（211文字）

　いきなり国語か倫理社会のテストのような話になってしまったが、実はこの2つの回答のうち、一方は国際連合広報センターが発表しているSDGs啓蒙用のパンフレットに載っているもの（国連が書いたと分からないように一部を抜粋している）。そしてもう一方は、ChatGPTに書かせたものだ。

　さて、どちらがどちらだろうか？

　もともとは国連のパンフレットの文章があり、そこから大きく外れないために、ChatGPTには「これから行う質問に日本語で回答して下さい。回答は200字以内で、高校生にも分かるくらい平易な文章にして下さい」と指示した上で、「私自身は差別を受けていませんが、それでも国内および国家間の不平等を是正することについて関心を持つ必要があるのはなぜですか」と質問している。

　パンフレットはこちらのリンクから実物を確認できるが、ジャンプする前にどちらがChatGPTの生成したものか考えてみてほしい。

　それでは発表しよう。【回答1】はChatGPTによるもの、【回答2】は人間が書いたものだ（国連のパンフレットに載っていた文章というだけなので、こちらも国連がChatGPTに書かせたものという可能性は残るが）。

　なぜこのような実験をしたのか。それは、同様の実験をさらに本格的に行った研究者が、「倫理的な質問に対する人間の回答とChatGPTの回答が提示されると、ほとんどの人は、ChatGPTの回答の方が優れていると判断する」という研究結果を発表したためだ。