ECサイトからニセ評価を除去するAI

レコメンド機能への攻撃防止を狙いKDDI総合研究所が開発

栗原 雅/2019.10.31

いいね ツイートする
「データポイズニング攻撃」に対するレコメンドシステムの耐性を高めるAIを開発したKDDI総合研究所 情報セキュリティグループの清本晋作グループリーダー(左)と披田野清良研究主査(右)

 情報通信技術(ICT)の研究開発を手掛けるKDDI総合研究所は2019年10月、ECサイトのレコメンド(推奨)機能への攻撃による悪影響を防ぐAI(人工知能)を開発した。商品やサービスの評判を意図的に上げたり下げたりする「データポイズニング攻撃」からECサイトを守ることで、ユーザーが不利益をこうむるのを防止する狙いがある。

 ECサイトの多くは、複数のユーザーの購買履歴や閲覧履歴から「商品Aを購入したユーザーは商品Bにも関心がある」といった嗜好を分析し、閲覧中のユーザーが関心を持ちそうな商品を推奨する「レコメンド機能」を実装している。だが、実際には、ユーザーの関心が低い商品が推奨されてしまうケースがある。その場合、本来は相関がほとんどない別商品との関連を“偽装”し、別商品の評価を不当につり上げるような「データポイズニング攻撃」を仕掛けられている公算が大きい。

 KDDI総合研究所が開発したAIは、評価データの中からデータポイズニング攻撃とみられる不正なデータを突き止め、レコメンドシステムの対象から取り除く。そうすることでユーザーの嗜好に見合った商品を正しく推奨できるようにする(図1)。

図1 KDDI総合研究所が開発したレコメンドシステム向けのAIの概要(KDDI総合研究所提供)
拡大画像表示

学習を繰り返し正常データと不正データを見分ける

 このAIの最大の特徴は、正常な評価データと不正なデータを見分ける知識をあらかじめ持っていないにもかかわらず、高い精度で不正データを取り除ける点である。その仕組みはこうだ。