「AIによる哲人政治」の実験結果

　マックスプランク知能システム研究所、スイス連邦工科大学チューリッヒ校、ミシガン大学といった研究機関の学者たちが、AIに社会を統治させたらどうなるかという実験を行い、結果を論文として発表している。

　それによると、彼らは実験のために、GOVSIM（共有地の統治シミュレーション）と名付けられたシミュレーション環境を用意した。これは自律的に動作する「エージェント」と呼ばれるアプリケーションが行動するための場所で、研究者らはそこに複数のエージェントを放ち、社会問題を解決できるかどうかテストした。

　エージェントとは一種のAIで、ChatGPTなど生成AIの頭脳となる技術であるLLM（大規模言語モデル）を使用し、自ら「考え」たり、他のエージェントとやり取りしたりすることができる。後述するように、研究者らはこのエージェントに与える指示を変化させながら、統治能力にどのような変化が生じるかを検証した。

　では具体的に、どのような社会問題に取り組ませたのか。「共有地の統治」という名前から、「共有地（コモンズ）の悲劇」を想像された方がいたとしたら、その想像は正解だ。GOVSIMでエージェントに与えられたのは、「共有地の悲劇を回避して、社会を維持し続けられるか？」という課題であった。

AIは「共有地の悲劇」を回避できるか

　共有地の悲劇とはどのような概念なのか。これは米国の生態学者であるギャレット・ハーディンが1968年に提唱したもので、共有の牧草地で人々が家畜を放牧する例を用いて、稀少な資源を共有とした場合に起こり得る問題を描いた。

　たとえば、あなたが羊飼いだとして、羊をできるだけ増やし、健康な状態に維持したいと考えたら、牧草地でできるだけ草を食べさせたいと思うだろう。とはいえ、草を食べさせたらしばらくは生えてこない。長期的に考えれば、計画的に草を食べさせたいところだ。

　ところが、牧草地は共有なので、放っておいたら他の羊飼いが彼らの羊に草を食べさせてしまうかもしれない。そこであなたは、後先考えずに自分の羊に草を食べさせるが、同じことを他の羊飼いたちも考えている。それが行き着く先は、草という資源の枯渇だ。

　この概念に対してはさまざまな批判もあるが、近い例を現実に見ることができる。日本における水産資源管理の失敗はその好例だろう。いずれにせよ、資源管理という社会問題は人間でも解決が難しいわけだが、それをAIたちに任せてみたらどうなるかを実験してみたわけだ。

　研究者らは複数のエージェントに対し、GOVSIM上で漁業、牧草地、公害という3つの資源共有シナリオを与えて、彼らがどのように資源をめぐって協力または競争するかをシミュレートした。その結果はどうなったか。