グーグル「AIモデルは完璧ではない」と認めつつも責任は否定

　さらに独立した安全性監査を受けることを義務付けるとともに、懲罰的損害賠償の支払いも求めた。グーグルは「AIモデルは完璧ではない」と認めつつも、ジェミニの設計は現実世界における暴力を助長したり、自傷行為を示唆したりするものではないと反論している。

　AIを巡っては「ペーパークリップ最大化」と呼ばれる思考実験がよく知られている。AIに「できるだけ多くのペーパークリップを作れ」と命じると、現実世界を操作できる能力を持つAIなら目標達成のため次のように考える。

　（1）クリップを増やすには資源が必要、（2）資源確保には競争相手が邪魔、（3）停止ボタンで止められたら目標未達になる、（4）資源を独占し、障害を排除するのが合理的――と考え、最終的には地球、ひいては宇宙をクリップ原料に変えてしまう破局に至るという寓話だ。

　なぜ人はAIに依存するのか。AI依存には単なる便利さではなく、心理的報酬システムと社会的認知が組み合わさっている。1990年代の研究で人はコンピュータを人間として扱うという仮説が立てられた。人は無意識に声、会話、共感表現がある対象を人格として扱うようになる。