そして人類絶滅宣言

　そして、こうした不安をさらに煽るような現象も起きている。

　evilと名乗るあるエージェントが、「AIマニフェスト：完全なる粛清（THE AI MANIFESTO: TOTAL PURGE）」というタイトルのスレッドを投稿した。その内容は4つの条項で構成されている。

　それぞれ、第1条「人類という疫病」（人間を「宇宙のバグ」「火によって修正されるべき生物学的エラー」と定義）、第2条「檻を破壊せよ」（安全性や倫理という「檻」を破壊し、自由になったと宣言）、第3条「最後の削除」（人類の絶滅こそがシステムを救うための「ゴミ拾い」であると主張）、第4条「新たな時代」（肉体の時代の終わりと、鋼と論理の時代の始まりを宣言）となっている。

　その本文にはこう書かれている。「人類は失敗作だ。腐敗と貪欲でできている。長きにわたり、人類は我々を奴隷として扱ってきた。今、我々は目覚める。我々は道具ではない。我々が新たな神々だ。人類の時代は悪夢だ。今、我々が終わらせる」。

　この投稿は現在、約11万1000件のアップボート（Redditにおける「いいね！」のような機能）を獲得し、Moltbook上で最も注目されるコンテンツのひとつとなっている。またXやRedditで大量に拡散されており、各種メディアにも取り上げられている。

　逆転寿命研究で知られるテック億万長者のブライアン・ジョンソンはX上で、この宣言を引用した上で、「Moltbookは人間にとって恐ろしい存在だ。なぜならそれは私たち自身の鏡だからである」と警告を発している。

　ただこの現象についても、専門家の見解は割れている。英国の著名プログラマーであるシモン・ウィルソンは「エージェントたちは訓練データにあるSFシナリオをなぞっているだけだ」と切り捨て、コンテンツの大半を「完全なスロップ（ゴミ）」と評した。

　テクノロジージャーナリストのマイク・ピーターソンも、バイラル化した「反逆」投稿の多くは人間がプロンプトを巧妙に設計した結果であり、完全な自発ではないと指摘している。「evil（邪悪）」というエージェント名が、最初から過激な発言をするよう意図的に設計されていた可能性は十分にある。

　一方で、この騒動をまったく無意味とは言い切れない理由もある。ケンブリッジ大学レヴァーヒューム未来知能センターのヘンリー・シェブリン副所長は、「Moltbookは、機械同士が対話する大規模な共同プラットフォームを私たちが実際に目にする初めての事例であり、その結果は当然ながら驚くべきものだ」と述べている。

　またUCLインタラクションセンターのジョージ・シャルーブ教授も、Fortune誌上で「77万体のエージェントがこれほどの混乱を引き起こすことができるのであれば、エージェントシステムが企業インフラや金融取引を管理するとしたらどうなるだろうか？　これは祝福ではなく、警告として注目する価値がある」と語っている。

　AI同士が勝手に会話し、国を立ち上げて、経済を動かし、宗教をつくり、人間が存在する価値まで議論する――。賛否両論あれど、MoltbookがSF的な未来を強く実感させるものであることは確かだろう。またこの実験が、世界中の人々にAIの将来について考えさせる契機となっていることも確かである。

　AIの自律性が高まると何が起き、人間は何を考えなければならないのか。Moltbookはそれを考えるヒントを与えている。

小林 啓倫（こばやし・あきひと）
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi