コンピューターシステムのことを思い出そう。AIでソフトウェア上の新しい脆弱性を発見できるようになれば、政府、犯罪者、趣味のハッカーたちのすべてが有利になる。新たに発見された脆弱性が利用されれば、世界中のコンピューターネットワークが重大な危険にさらされる。つまり、私たち全員が危険にさらされることになる。

　同じAI技術が、防御側にとってはなおのこと有利にはたらく。いったん見つかった脆弱性には、恒久的にパッチを当てることができるからだ。たとえば、あるソフトウェア会社が、自社のコードに関してAIによる脆弱性検出の機能を導入するところを考えてみるといい。ソフトウェアを一般公開する前に、脆弱性を発見してそれにパッチを当てることができる。

　このテストを、開発プロセスの一部として自動的に実行することもできるだろう。したがって、攻撃側と防御側がどちらも同じテクノロジーを利用できるとしても、防御側はシステムのセキュリティを恒久的に改善するためにそれを活用できるのである。

AIが政治・経済・社会的な脆弱性の発見に使われてしまう危険

　ソフトウェアの脆弱性がすでに過去のものとなった未来も想像できる。「コンピューターが登場してから最初の何十年かは、ハッカーがソフトウェアの脆弱性を利用してシステムをハッキングしていた時代があったんだって。信じられないよね」

　もちろん、移行期間には難問が残るだろう。新しいコードは安全だとしても、レガシーコードは依然として脆弱なままだ。すでにリリースされているコードをAIツールで調べると、その多くはパッチを当てられないかもしれない。その場合、攻撃者が自動化された脆弱性検出の機能を利用するだろう。

　それでも長期的に見れば、ソフトウェアの脆弱性を検出するAI技術は、侵入や破壊からシステムを防御する側にとって有利にはたらく。

　同じことは、AIが広く社会システム全般でハックを発見しはじめるときにも当てはまる。政治・経済・社会的な脆弱性が発見されると、悪用される。

　それだけではない。そうしたハックはすべて、AIシステムを支配する人々の利益をふくらませる。パーソナライズされた広告の説得が効果的になるだけでは済まず、強力になったその説得力に資金を投入する者が現れる。それが儲けにつながるからだ。

　AIが税制上に斬新な抜け穴を発見すれば、それは利用される。AIシステムにアクセスできる何者かが節税のためにそれを利用したがるからだ。