フォロー
「ハック」「ハッキング」とは、経済、政治、社会などさまざまなシステムに対して、ルールの抜け穴を利用して自らの有利になるようにすることだ。AIで政治・経済・社会的な脆弱性を発見できるようになると、政府や犯罪者に悪用されてしまう。だが、同じAI技術が、防御側にも有利にはたらく。法律やルールの脆弱性を事前に評価することもできるからだ。（JBpress）
※本稿は『ハッキング思考 強者はいかにしてルールを歪めるのか、それを正すにはどうしたらいいのか』（ブルース・シュナイアー著、高橋聡訳、日経BP）より一部抜粋・再編集したものです
本書では、さまざまなシステムについて、それがどのように破綻するか、どうすれば強靱になるかを理解しようとするときに、ハッキング的な考え方が有効だと伝えることをめざしている。
「ハック」とは、想定を超えた巧妙なやり方でシステムを利用して、システムの規則や規範の裏をかき、そのシステムの影響を受ける他者に犠牲を強いることだ。
AIは人知れずハックしている
問題になるのは、明白なハックだけではない。
自動運転車のナビゲーションシステムが、高速を維持するという目標を達成しようとして、車体がスピンするようなスピードで車を走らせたとしたら、プログラマーはこの挙動に気づき、それに応じてAIの目標設定を修正するだろう。そんな動きを公道上で目にすることはまずありえない。それ以上に懸念されるのは、影響が軽微であるゆえに気づかれもしない、明白ではないハックだ。
たとえばおすすめ機能（レコメンドエンジン）については、すでに各種の研究が重ねられている。軽微なAIハックの第一世代で、それが人を極端な内容のコンテンツに向かわせることもあるが、そう意図されてプログラムされているわけではない。システムが継続的にいろいろなことを試し、その結果を見ては、ユーザーが関心をもつ表示を増やし、そうでないものを減らすように自らを修正していくうちに、自然に生まれた性質だ。
ユーチューブやフェイスブックの推奨アルゴリズムは、さらに極端なコンテンツを提供するよう学習した。そうすると感情的な強い反応を呼び起こし、各プラットフォームでの滞在時間を延ばせるからだ。このハックに、悪意のあるハッカーは必要なかった。ごく基本的な自動システムが自力で見つけ出したのだ。そして、私たちはほぼ誰も、当時そんなことが起こっていようとは考えもしなかった。
