IoT(Internet of Things)の最新ニュースや企業&ベンチャー事例(ケーススタディ)ほぼ毎日掲載

イノベーション
2017.11.23

シリコンバレーで見たAIとIoTビジネスの未来【2】
AIブームを生んだ深層学習モデル、実用化を阻む弱点も

BY

深層学習モデルの弱点

 アメリカでは、深層学習モデルをだますような物理攻撃が可能だという「Robust Physical-World Attacks on Machine Learning Models」という道路標識の認識モデルの実験があった。

写真のように小さいシールでも、機械の画像認識を誤らせる

 例えば、アメリカの「一時停止」の標識。赤地に「STOP」の文字が白抜きしてある、人間の目にはとても明瞭なサインである。この標識の一部に数か所、ごく小さなシールを貼ったところ、このコンピュータは「45マイルの速度制限」の標識として認識してしまうというのだ。

 シールを貼っても「STOP」の文字はほとんどの部分がそのまま露出しており、人間なら当然のごとく一時停止の標識だと認識するのだが、現段階の自動運転車にこのシールのついた標識を見せたとしたら、ストップサインを無視して行ってしまうだろう。

 そして、黄色のひし形の標識版に黒字の矢印で示す「右折して迂回」のサイン。この標識の黒字の矢印の部分にステッカーを貼って、白と黒のグラデーションのモザイクカバーを付けると、コンピュータはまたも同じく、速度制限として認識してしまったという。

 PFNの比戸氏はこの理由を「機械に学習させるデータセットには、きれいな標識しか入っていない。こういうシールが付いたりステッカーが貼られていたりするものは、モデルからすると完全に未知なモデルだから」と解説する。

 人間の目にとっては、全体の認識にとっては影響がないととらえられるようなものでも、機械の認識モデルは見たことのない極端な入力と解釈し、結果として全然違うモデルだと判定してしまうのだ。

 これは、自動運転車の安全面という側面からみると大きな問題だ。ちょっとした細工をするだけで機械の画像認識を誤らせることができるということは、悪意をもってそうした細工=“攻撃”をすることも可能だということ。

 ここを克服しなければ、車の運転を完全に自動化することは難しい。実際に、こうした“攻撃”に対する“防御”面の研究開発も進んでおり、攻撃と防御の両方で競い合うコンテストも開かれている。

 このように、AIの技術開発は日々進歩し、同時にその弱点も見つかってくる中で、「ゴール」にはいつ到達するのだろうか? ガ―トナーのハイプ・サイクルが示唆するように、10年ほどで「どこでもAIとなる世界」になるのだろうか? 次回は人工知能が人間の能力を超えることで起こる出来事「シンギュラリティ」にも言及していく。

第3回に続く)

 

JBPRESS

あわせてお読みください

記事ランキング

  • 直近1時間
  • 昨日

話題のキーワード

注目連載

あわせてお読みください

IoTニュース

自分の力で検証する、IoTデバイスの脆弱性
売価が3倍に!新しい養鶏場はIoTデータでどう価値を創出したのか?
宮城のIoT活性化、ビジネス創出推進「みやぎIoTビジネス共創ラボ」を設立
西菱電機、LoRaWAN対応GPSトラッカーの提供を開始
セルラーLPWA向け製品、成功するための要素を探る
変わる「リフト&シフト」の意味――既存システムのクラウド移行、成功のポイント
トレンドマイクロ、米Moxaと産業用IoT向けアプリケーションのセキュリティで提携
KDDI、5G・IoT時代のビジネス開発拠点「KDDI DIGITAL GATE」をオープン
日本マイクロソフトが「デジタルヘルス推進室」始動(デジタルヘルス事例)
ウミトロン、大分県でAI・IoTを活用し魚類養殖保険に有用なデータサービスの実証を開始
ローム、ソニー「SPRESENSE」向けセンサ拡張ボード、BLE拡張ボードを発売開始
5G・IoT時代の新ビジネスを“共創”する拠点に――「KDDI DIGITAL GATE」オープン 「∞ Labo」も移転し同居
踊り場にきた、ウエアラブル関連プロダクト ーIFA2018レポート4
福岡市がAIやIoTを活用したスポーツテックの実証実験を募集
IoT人気記事ランキング|ものづくり企業に必要不可欠なMES(生産実行システム)のノウハウを凝縮し短期導入を可能に ーウイングアーク1st荏原氏インタビューなど[8/27-9/2]
IoT・ブロックチェーン・AI――次世代ソリューションの“3種の神器”はOracle Cloudで組み合わせることでパワーが倍加する

IoTニュース”は、Mynd Engineを活用して、世の中のIoT関連の記事をまとめさせていただき、ご紹介させていただきます。