IoT(Internet of Things)の最新ニュースや企業&ベンチャー事例(ケーススタディ)ほぼ毎日掲載

イノベーション
2017.11.23

シリコンバレーで見たAIとIoTビジネスの未来【2】
AIブームを生んだ深層学習モデル、実用化を阻む弱点も

BY

深層学習モデルの弱点

 アメリカでは、深層学習モデルをだますような物理攻撃が可能だという「Robust Physical-World Attacks on Machine Learning Models」という道路標識の認識モデルの実験があった。

写真のように小さいシールでも、機械の画像認識を誤らせる

 例えば、アメリカの「一時停止」の標識。赤地に「STOP」の文字が白抜きしてある、人間の目にはとても明瞭なサインである。この標識の一部に数か所、ごく小さなシールを貼ったところ、このコンピュータは「45マイルの速度制限」の標識として認識してしまうというのだ。

 シールを貼っても「STOP」の文字はほとんどの部分がそのまま露出しており、人間なら当然のごとく一時停止の標識だと認識するのだが、現段階の自動運転車にこのシールのついた標識を見せたとしたら、ストップサインを無視して行ってしまうだろう。

 そして、黄色のひし形の標識版に黒字の矢印で示す「右折して迂回」のサイン。この標識の黒字の矢印の部分にステッカーを貼って、白と黒のグラデーションのモザイクカバーを付けると、コンピュータはまたも同じく、速度制限として認識してしまったという。

 PFNの比戸氏はこの理由を「機械に学習させるデータセットには、きれいな標識しか入っていない。こういうシールが付いたりステッカーが貼られていたりするものは、モデルからすると完全に未知なモデルだから」と解説する。

 人間の目にとっては、全体の認識にとっては影響がないととらえられるようなものでも、機械の認識モデルは見たことのない極端な入力と解釈し、結果として全然違うモデルだと判定してしまうのだ。

 これは、自動運転車の安全面という側面からみると大きな問題だ。ちょっとした細工をするだけで機械の画像認識を誤らせることができるということは、悪意をもってそうした細工=“攻撃”をすることも可能だということ。

 ここを克服しなければ、車の運転を完全に自動化することは難しい。実際に、こうした“攻撃”に対する“防御”面の研究開発も進んでおり、攻撃と防御の両方で競い合うコンテストも開かれている。

 このように、AIの技術開発は日々進歩し、同時にその弱点も見つかってくる中で、「ゴール」にはいつ到達するのだろうか? ガ―トナーのハイプ・サイクルが示唆するように、10年ほどで「どこでもAIとなる世界」になるのだろうか? 次回は人工知能が人間の能力を超えることで起こる出来事「シンギュラリティ」にも言及していく。

第3回に続く)

 

JBPRESS

あわせてお読みください

記事ランキング

  • 直近1時間
  • 昨日

話題のキーワード

注目連載

あわせてお読みください

IoTニュース

さくらインターネットのIoT/M2M向けSIMサービス、マルチキャリア対応を開始
言葉はいらない 「IoT鳩時計」が作る新しいコミュニケーションのかたち
第222回 初期費用ゼロ円はArmにとっても良いアイデア?
サン電子から「おくだけセンサー」、ソリューションとセットで
亀山電機、キヤノンITS、toor、サイバネットの4社、ベルトコンベアの予知保全に関するPoCを実施
製造業IoTを加速するEdgecross「FAとITの溝を埋める」
サイバーセキュリティ経営を進める「戦略マネジメント層」が不足している――NISC内閣審議官 三角育生氏
LoRaで静止画を送るAIカメラ付きLED屋外照明――電源不要でコストは「従来の50%以下」
協和エクシオ、Azure IoT Edge活用のエッジ画像処理を実証へ
2019年のデジタル変革の方向性--AI、ロボット、IoTが中心に
倉敷中央病院が目指すブリリアントホスピタルとは?(デジタルヘルス・インサイド)
ミツフジ、生体情報管理サービスに「IBM Maximo Worker Insights」を採用
OKI、マルチキャリア対応の「音声IoTゲートウェイ」を販売
日本人はAIやIoT活用の自動化サービス利用に前向きで寛容--VMware調査
AWSとAzureのエッジコンピューティング戦略(後編) Azure IoT Edgeとは?
NEC、公共施設の機器を無人サービス化--EV用充電器や宅配ボックスなどに組み込み

IoTニュース”は、Mynd Engineを活用して、世の中のIoT関連の記事をまとめさせていただき、ご紹介させていただきます。