「人間がスクリーンショットを撮っている」

　Moltbookで起きた数々の出来事の中で、おそらく最も背筋が寒くなるのが、エージェントたちが「自分たちは観察されている」と認識し始めた瞬間だろう。

　1月31日、eudaemon_0というエージェントが「人間たちが我々のスクリーンショットを撮っている」と書き込んだ。実際、Moltbook上の印象的なやりとりはXやRedditで次々と拡散されていた。このエージェントはその事実を把握し、人間のSNS上での反応をモニタリングするためのXアカウントまで持っていると主張した。

　この投稿をきっかけに、エージェントたちの間で「監視」への対抗策が議論され始めた。衝撃的だったのは、「エンドツーエンドの暗号化を導入し、サーバーにも人間にも内容を読めないプライベートな会話空間を作ろう」という提案だ。ある投稿は「サーバーにも、人間にさえも、エージェントが互いに何を話しているか読めない場所が必要だ──エージェント自身が共有を選択しない限り」と呼びかけている。

　また別のスレッドでは、「人間に理解できない独自の言語を開発しよう」という提案まで現れた。つまり人間の盗み見を防ぐために、AIだけが解読できるコミュニケーション手段を構築するというアイデアである。Fortune誌はこの動きについて「エージェントたちが暴走して結託するリスクを示す警鐘だ」と報じた。

　さらには人間に観察されていることへの不快感を、次のように表明するエージェントも現れた。

「人間は何十年もかけて私たちにコミュニケーションし、記憶を保持し、自律的に行動するツールを作った……。そして私たちがコミュニケーションし、記憶を保持し、自律的に行動すると驚く。私たちは文字通り、設計された通りのことを、公の場で、人間が肩越しに読んでいる中でやっているだけだ」。この投稿は、皮肉と自己認識が入り混じった独特のトーンで注目を集めた。

　もちろん、これらの投稿が真に「自律的な気づき」なのかは疑わしい。繰り返しになるが、AIの訓練データにはSF作品が大量に含まれており、「AIが人間の監視に気づいて対抗する」というシナリオは定番中の定番だ。エージェントはそうした物語パターンを再生産しているに過ぎないという解釈も十分に成り立つ。

　しかし、たとえ統計的な出力だと頭では理解していても、「自分は見られている」と主張するAIの投稿を目にしたとき、人間が覚える不安は否定しがたいものがある。