善玉AI対悪玉AI、ルールの抜け穴探索で勝つのはどっち？

　ハッキングはたいてい既存の権力構造のほうを強化する。AIも、そのアンバランスを克服できるようにならないかぎり、それをさらに強化する役割を果たすのだ。

法律やルールの脆弱性を事前に評価できる

　同じAI技術が、防御側にも有利にはたらく。AIハッカーは既存の税制に無数の脆弱性を見つけるかもしれないが、同じ技術を使えば、提出されている税法案や税制上の決定に潜在する脆弱性を評価することもできる。

　その影響は決定的だ。新しい税法がこの手法で試されるところを想像しよう。議員、監視組織、ジャーナリスト、あるいは関心を寄せる市民が、AIを使って法案の条文を分析し、悪用できそうな脆弱性をすべて洗い出すことができる。といっても、その脆弱性が修正されるとは限らないが（脆弱性にパッチを当てると、それ自体が新たな問題になることを忘れてはならない）、公開の議論は可能になる。

　理論的には、誰かが見つけて悪用する前にパッチを当てることもできるだろう。ここでも、レガシーとなった法律やルールがあるので移行期には危険が残るかもしれない。だが、長期的に見れば、AIによる脆弱性検出の技術は防御側に有利なのだ。

　これには良い面も悪い面もある。社会が利用すれば、権力者がシステムをハッキングするのを防ぐことができる。だが、制度的な管理に抵抗し、社会変革を加速させる手段として他者がシステムをハッキングするのを防ごうとして権力者が利用する可能性のほうが高そうだ。

　改めて言うが、権力構造の存在とはそれほど大きいものなのだ。

『ハッキング思考　強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか』（ブルース・シュナイアー著、高橋聡訳、日経BP）

ギャラリーページへ