「データポイズニング攻撃」に対するレコメンドシステムの耐性を高めるAIを開発したKDDI総合研究所 情報セキュリティグループの清本晋作グループリーダー（左）と披田野清良研究主査（右）

　情報通信技術（ICT）の研究開発を手掛けるKDDI総合研究所は2019年10月、ECサイトのレコメンド（推奨）機能への攻撃による悪影響を防ぐAI（人工知能）を開発した。商品やサービスの評判を意図的に上げたり下げたりする「データポイズニング攻撃」からECサイトを守ることで、ユーザーが不利益をこうむるのを防止する狙いがある。

　ECサイトの多くは、複数のユーザーの購買履歴や閲覧履歴から「商品Aを購入したユーザーは商品Bにも関心がある」といった嗜好を分析し、閲覧中のユーザーが関心を持ちそうな商品を推奨する「レコメンド機能」を実装している。だが、実際には、ユーザーの関心が低い商品が推奨されてしまうケースがある。その場合、本来は相関がほとんどない別商品との関連を“偽装”し、別商品の評価を不当につり上げるような「データポイズニング攻撃」を仕掛けられている公算が大きい。

　KDDI総合研究所が開発したAIは、評価データの中からデータポイズニング攻撃とみられる不正なデータを突き止め、レコメンドシステムの対象から取り除く。そうすることでユーザーの嗜好に見合った商品を正しく推奨できるようにする（図1）。

図1　KDDI総合研究所が開発したレコメンドシステム向けのAIの概要（KDDI総合研究所提供）
拡大画像表示

学習を繰り返し正常データと不正データを見分ける

　このAIの最大の特徴は、正常な評価データと不正なデータを見分ける知識をあらかじめ持っていないにもかかわらず、高い精度で不正データを取り除ける点である。その仕組みはこうだ。