IoT(Internet of Things)の最新ニュースや企業&ベンチャー事例(ケーススタディ)ほぼ毎日掲載

イノベーション
2017.11.23

シリコンバレーで見たAIとIoTビジネスの未来【2】
AIブームを生んだ深層学習モデル、実用化を阻む弱点も

BY

深層学習モデルの弱点

 アメリカでは、深層学習モデルをだますような物理攻撃が可能だという「Robust Physical-World Attacks on Machine Learning Models」という道路標識の認識モデルの実験があった。

写真のように小さいシールでも、機械の画像認識を誤らせる

 例えば、アメリカの「一時停止」の標識。赤地に「STOP」の文字が白抜きしてある、人間の目にはとても明瞭なサインである。この標識の一部に数か所、ごく小さなシールを貼ったところ、このコンピュータは「45マイルの速度制限」の標識として認識してしまうというのだ。

 シールを貼っても「STOP」の文字はほとんどの部分がそのまま露出しており、人間なら当然のごとく一時停止の標識だと認識するのだが、現段階の自動運転車にこのシールのついた標識を見せたとしたら、ストップサインを無視して行ってしまうだろう。

 そして、黄色のひし形の標識版に黒字の矢印で示す「右折して迂回」のサイン。この標識の黒字の矢印の部分にステッカーを貼って、白と黒のグラデーションのモザイクカバーを付けると、コンピュータはまたも同じく、速度制限として認識してしまったという。

 PFNの比戸氏はこの理由を「機械に学習させるデータセットには、きれいな標識しか入っていない。こういうシールが付いたりステッカーが貼られていたりするものは、モデルからすると完全に未知なモデルだから」と解説する。

 人間の目にとっては、全体の認識にとっては影響がないととらえられるようなものでも、機械の認識モデルは見たことのない極端な入力と解釈し、結果として全然違うモデルだと判定してしまうのだ。

 これは、自動運転車の安全面という側面からみると大きな問題だ。ちょっとした細工をするだけで機械の画像認識を誤らせることができるということは、悪意をもってそうした細工=“攻撃”をすることも可能だということ。

 ここを克服しなければ、車の運転を完全に自動化することは難しい。実際に、こうした“攻撃”に対する“防御”面の研究開発も進んでおり、攻撃と防御の両方で競い合うコンテストも開かれている。

 このように、AIの技術開発は日々進歩し、同時にその弱点も見つかってくる中で、「ゴール」にはいつ到達するのだろうか? ガ―トナーのハイプ・サイクルが示唆するように、10年ほどで「どこでもAIとなる世界」になるのだろうか? 次回は人工知能が人間の能力を超えることで起こる出来事「シンギュラリティ」にも言及していく。

第3回に続く)

 

JBPRESS

あわせてお読みください

記事ランキング

  • 直近1時間
  • 昨日

話題のキーワード

注目連載

あわせてお読みください

IoTニュース

セキュアIoTプラットフォーム協議会、IoTデバイス向けのセキュリティを検証 | IT Leaders
屋外スポーツ施設のLED照明をIoTで省力化、MTESとスリーエス
2017年 マイナビニュース「IoT分野」の年間アクセスランキングトップ3!
遠隔充電のWattUp が実用化へ一歩、1月のCESで実演へ。約1m範囲の送電機がFCC認証取得
自宅での歯みがき、歯科衛生士に“丸見え”に(デジタルヘルス事例)
【PR】【インタビュー】インテル 執行役員 オートモーティブ担当 大野誠氏に、Intelの自動車向け半導体ビジネスについて聞く
サンスター×富士通、IoTを活用した先進予防歯科サービス
IoTの真価は協創によるイノベーション ーIoTパートナーコミュニティフォーラム レポート1
ソフトバンクなど、ドローン×AIで農業生産性向上の実証実験
ビープラッツ、サブスクリプション統合プラットフォーム「Bplats」でソラコムとの連携モジュールを開発へ
2017年、IoTNEWS年間人気記事ランキング
[年間人気記事ランキングTOP30]2017年は「LPWA」が席巻!
「考えるよりも生むが易し」―センサーから始めるデジタルトランスフォーメーション | IT Leaders
スマートホーム「MIRAI ZEH-NEO」の販売を開始、アキュラホーム
農薬量を1/10以下に削減、オプティムがAI・IoT・ドローンを活用したピンポイント農薬散布
ソフトバンクと3DセンサーのVayyar、IoT分野で協業

IoTニュース”は、Mynd Engineを活用して、世の中のIoT関連の記事をまとめさせていただき、ご紹介させていただきます。