著者フォロー
今回の停電が突きつけたAIとの付き合い方
インフラ障害において、AIがどこまで裁量を持つべきか。これは技術というより、制度と責任の設計の問題です。
AIに即興判断を許せば、柔軟性は増します。しかし、事故が起きたとき誰が責任を負うのかという問題が一気に重くなるのです。
ウェイモがサービス停止を選んだ背景には、この責任設計があります。
AIに即興判断を許せば、確かに現場の柔軟性は増すでしょう。
しかし、ルールを逸脱した良かれと思っての即興判断で事故が起きたとき、企業は法的にその過失を説明しきれません。
渋滞という社会的コストを払ってでも、ルール通りの停止を選ぶのです。これは技術的な限界というより、設計外の行動をとらせないという防衛ラインになります。
米国の報道では、ウェイモが大規模な資金調達交渉に入っている可能性も伝えられました。
米国内だけでなく、日本でもウェイモの実証実験がすでに始まっています。ここで注目すべきは、今回の停電が拡張戦略を止める材料になっていない点です。
むしろ、どこを改修すべきかが明確になったと見るべきでしょう。
①信号機に依存しすぎない判断軸
②周辺状況をより広く推定する能力
③都市ごとのインフラの差を吸収する設計
これらは、資金と時間を投じなければ解決できない領域です。今回の停電は、自動運転の未熟さを示したのではありません。むしろ、AIが社会制度の一部として動き始めた証拠です。
経営の現場でも、AIは例外処理が苦手だと感じる場面が増えています。
それはAIが劣っているからではありません。
ルール通りに動くよう設計されているからです。重要なのは、AIに何を任せ、どこで止めるかを事前に決めておくことでしょう。
今回ウェイモが選んだ停止という判断は、技術ではなく経営の判断でした。自動運転が本当に社会に溶け込むためには、技術の進化と同じ速度で、制度と責任の設計を更新する必要があります。
サンフランシスコの停電は、その課題を突きつけました。
信号が消えたとき、AIはどう振る舞うべきか。その答えは、技術者だけでなく、経営者が考えるべき課題になってきました。
筆者作成
