問われるのは技術ではなく「ガバナンス設計」

　こうした課題はあれど、AIエージェントを活用することで、地域をまたぐ政策調整がうまくできるという効果が一定得られたことは、今後の政策決定過程におけるAIの導入に弾みをつけるものだろう。

　だとすると、次に目を向けなければならないのは、技術というよりもむしろガバナンスの側面だ。

　ここで、冒頭のアシモフの短編に立ち戻る価値がある。この作品は「機械が独裁者として宣言する未来」ではなく、「機械が意思決定を『補助』するはずだったのに、気づけば社会の重要な判断が機械の作った前提と勧告に沿って進むようになっていた未来」を描いているからである。

　今回の論文も、LLMエージェントをあくまで「政策決定アシスタント」として位置づけている。エージェントは州ごとの状況を読み、他州と情報を共有し、シミュレーターの結果を踏まえて政策案を提案する。最終的に採るかどうかを決めるのは人間であり、論文の枠組み自体は「AIが政策を自動で決める」とは言っていない。

　それでも、アシスタントが決定者に近づく可能性は否定できない。現実の組織ではしばしば、「人間の最終決定者による合理的な判断」が期待できない場面があるからだ。

　パンデミックのように危機的な状況で、時間制約が厳しく、判断材料が膨大で、関係者も多いという環境では、この傾向が強まると考えられる。そうした状況では「ゼロから全てを検討する」より、提示された候補を比較して即決する方が現実的だからである。

　仮に政策案の生成、根拠の整理、シミュレーションによる評価がAIエージェントに標準化されれば、最終決裁が人間でも、実務の流れは「AIが作った候補セットと評価軸」の上で動きやすくなる。そうした環境下で選択された政策は、果たして「計算機が押し付けたものではない」と言い切れるだろうか。

　論文の研究チームも、この懸念を示している。付録のプロンプト例を見ると、エージェントに政策案だけでなく根拠を構造化して出力させ、人間が追跡・監査できる形を意識していることがわかる。

　また前述の通り、複数のLLMで性能差や安定性の違いも確認し、モデルの能力が協調の質に影響し得ることを示唆している。つまり、AIが政策プロセスの中核に入れば入るほど、「どのモデルを使うか」「どの指標を重視させるか」「説明をどう残すか」が技術の問題であると同時にガバナンスの問題になるのである。

「AIが独裁者となって人類を支配する」という未来は、少なくとも近い将来には到来しないだろう。しかし『避けられた抗争』で描かれているように、気づかぬうちに政策決定の主導権を握られるようになるという可能性は残る。

　政策決定者を助けるはずの仕組みが、政策候補と評価軸を供給するインフラになったとき、私たちの意思決定はどこで、どのように方向づけられるようになるのか。その問いこそ、アシモフのSFが現実になろうとしているいま、始めなければならない議論ではないだろうか。

小林 啓倫（こばやし・あきひと）
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi