IoT(Internet of Things)の最新ニュースや企業&ベンチャー事例(ケーススタディ)ほぼ毎日掲載

イノベーション
2017.11.23

シリコンバレーで見たAIとIoTビジネスの未来【2】
AIブームを生んだ深層学習モデル、実用化を阻む弱点も

BY

深層学習モデルの弱点

 アメリカでは、深層学習モデルをだますような物理攻撃が可能だという「Robust Physical-World Attacks on Machine Learning Models」という道路標識の認識モデルの実験があった。

写真のように小さいシールでも、機械の画像認識を誤らせる

 例えば、アメリカの「一時停止」の標識。赤地に「STOP」の文字が白抜きしてある、人間の目にはとても明瞭なサインである。この標識の一部に数か所、ごく小さなシールを貼ったところ、このコンピュータは「45マイルの速度制限」の標識として認識してしまうというのだ。

 シールを貼っても「STOP」の文字はほとんどの部分がそのまま露出しており、人間なら当然のごとく一時停止の標識だと認識するのだが、現段階の自動運転車にこのシールのついた標識を見せたとしたら、ストップサインを無視して行ってしまうだろう。

 そして、黄色のひし形の標識版に黒字の矢印で示す「右折して迂回」のサイン。この標識の黒字の矢印の部分にステッカーを貼って、白と黒のグラデーションのモザイクカバーを付けると、コンピュータはまたも同じく、速度制限として認識してしまったという。

 PFNの比戸氏はこの理由を「機械に学習させるデータセットには、きれいな標識しか入っていない。こういうシールが付いたりステッカーが貼られていたりするものは、モデルからすると完全に未知なモデルだから」と解説する。

 人間の目にとっては、全体の認識にとっては影響がないととらえられるようなものでも、機械の認識モデルは見たことのない極端な入力と解釈し、結果として全然違うモデルだと判定してしまうのだ。

 これは、自動運転車の安全面という側面からみると大きな問題だ。ちょっとした細工をするだけで機械の画像認識を誤らせることができるということは、悪意をもってそうした細工=“攻撃”をすることも可能だということ。

 ここを克服しなければ、車の運転を完全に自動化することは難しい。実際に、こうした“攻撃”に対する“防御”面の研究開発も進んでおり、攻撃と防御の両方で競い合うコンテストも開かれている。

 このように、AIの技術開発は日々進歩し、同時にその弱点も見つかってくる中で、「ゴール」にはいつ到達するのだろうか? ガ―トナーのハイプ・サイクルが示唆するように、10年ほどで「どこでもAIとなる世界」になるのだろうか? 次回は人工知能が人間の能力を超えることで起こる出来事「シンギュラリティ」にも言及していく。

第3回に続く)

 

JBPRESS

あわせてお読みください

記事ランキング

  • 直近1時間
  • 昨日

話題のキーワード

注目連載

あわせてお読みください

IoTニュース

CypressとSemitech、スマートシティー市場で協業
マウス、Windows 10 IoT Enterprise搭載の組み込み向け小型PC
ソラコムの年次カンファレンス、IoTスタートアップによるピッチ開催
IoT人気記事ランキング|スマートファクトリーJapan 2018 レポートなど[6/4-6/10]
日本IBMと安川電機が協業、エッジと連携するアナリティクスデータクラウド基盤を開発
シャープが目を付けたのは「猫用IoTトイレ」 ペット事業になぜ参入? 犬のバイタル計測サービスも
ノバルス、乾電池型IoTデバイス「MaBeee」のビーコンモデルを発表
AT&Tとノキアが協業、企業のIoTイノベーションをグローバルに支援
凸版印刷が「IoT建材」の開発に着手、横浜市内で生活モニタリングの実証実験
さくらインターネット、IoT/M2M向けSIMサービスに新機能を追加
エッジからのリアルタイムデータを価値あるサービスに変えるIoT基盤をAWSで―DeNA「タクベル」が挑む次世代オートモーティブ事業 | IT Leaders
日立とKDDI、グローバルでのIoT事業で協業
ネットワン、データ分析まで支援する製造業向けIoTソリューション
KDDI、IoTデバイスマネジメントの英Resin.ioに出資--ソラコムと事業共創
シャープ 猫オシッコを計測するAIoTシステムトイレ 7月30日発売
猫の健康管理や犬のバイタル計測、シャープがペット向けIoTを開始

IoTニュース”は、Mynd Engineを活用して、世の中のIoT関連の記事をまとめさせていただき、ご紹介させていただきます。