本書では、さまざまなシステムについて、それがどのように破綻するか、どうすれば強靱になるかを理解しようとするときに、ハッキング的な考え方が有効だと伝えることをめざしている。「ハック」とは、想定を超えた巧妙なやり方でシステムを利用して、システムの規則や規範の裏をかき、そのシステムの影響を受ける他者に犠牲を強いることだ。 問題になるのは、明白なハックだけではない。 自動運転車のナビゲーションシステムが、高速を維持するという目標を達成しようとして、車体がスピンするようなスピードで車を走らせたとしたら、プログラマーはこの挙動に気づき、それに応じてAIの目標設定を修正するだろう。そんな動きを公道上で目にす
善玉AI対悪玉AI、ルールの抜け穴探索で勝つのはどっち?
『ハッキング思考』AIハッカーを防御するのもAIハッカー
2023.11.2(木)
ブルース・シュナイアー
Premium会員登録のご案内
Premium会員の特典
- プレミアム限定の記事配信
- プレミアム専用記事レイアウト
- 印刷に最適な画面提供