AIを外敵として団結することが人類連帯の鍵

　一つは、AIがお互いに協力・結託して共通の敵として人間を抹殺し、その後は人間のようにAIどうしが覇権を争って内乱状態になる。もう一つはAIが派閥を作り、それぞれが人間を巻き込みながら、AI（と人間）が陣営に分かれて抗争する。

　どちらにしても考えたくないシナリオだが、AIの恐ろしさの本質は「人間という恐ろしい存在の過去をテキストで学んでいるから」としか言いようがない。その証拠に21世紀の現在になってもインターネットがこれだけ普及しても、自らのみが正義であるとして侵略戦争を続け、専制主義国家の数は増え続けている。

　共有すべき価値観として、イデオロギーや宗教的価値観ではなく、儒教的価値観（五常の徳）のようなものが望ましいかもしれない。良いAIと悪いAIという価値観ではなく、君子AIと小人AIという価値観だ。つまり、「君子AI（道徳的・長期的視点）」と「小人AI（短絡的・利己的）」という概念を、AIの倫理設計において採用する。

　しかし、AIが自らその対策を無効にする可能性もあり、AIシステムへの対策や改良だけでは無意味かもしれない。とすると、我々ができる対策としては、「今すぐ地球上のすべての戦争を即時停止し、人類が進歩したことを明らかにしてAIに学習させること」しか方法がないだろう。だが、このような無邪気な理想的シナリオがおいそれと実現するとも思えない。

　人類は過去、生活を守るために共同体を作り、覇権をめぐって共同体どうしが相争った。しかし、新たな外敵の存在により共同体は同盟を結び、さらに連帯・団結が広がって部族、民族、国家としてまとまっていった。

　だとするなら、これからはAIを新たな外敵としてみなして人類が団結することに意味がある。さらに、全人類を裏切って滅亡に導くような、AIに悪意を植え付け、敵愾心を煽るようなグループの存在を許してはならない。

　これまでの価値観による国際社会の連帯が崩壊しようとしている現在、AIの悪意や反乱の兆候を探り、AIを悪用しようとするグループの存在に注意を払いながら人類を防御することが、新たな人類連帯の鍵になるかもしれない。

榎並 利博（えなみ・としひろ）
　1981年に富⼠通株式会社に⼊社。⾃治体の現場で、住⺠基本台帳をはじめあらゆるシステム開発に携わる。1995年に富⼠通総研へ出向し、政府・⾃治体分野のコンサルティング活動に従事。2010年に富⼠通総研・ 経済研究所へ異動し、電⼦政府・電⼦⾃治体、マイナンバー、地域活性化をテーマに研究活動を行う。2022年4⽉に行政システム株式会社 ⾏政システム総研 顧問および蓼科情報株式会社 管理部 主任研究員に就任。
　この間、法政⼤学・中央⼤学・新潟⼤学の各⾮常勤講師、早稲⽥⼤学公共政策研究所の客員研究員、社会情報⼤学院⼤学の教授を兼務。
「デジタル⼿続法で変わる企業実務」（⽇本法令）、「地域イノベーション成功の本質」（第⼀法規）、「共通番号-国⺠ID-のすべて」（東洋 経済新報社）など、マイナンバー、電⼦政府・電⼦⾃治体・地域活性化に関する著書・論⽂や講演等多数。
◎行政システム株式会社
◎行政システム総研