株式会社KDDI総合研究所 このページを印刷する

ECサイト内でのユーザの嗜好を安全に学習するAIの開発

~データポイズニング攻撃に耐性のある推薦システムの実現に向けて~

2019年10月8日
株式会社KDDI総合研究所

株式会社KDDI総合研究所(本社:埼玉県ふじみ野市、代表取締役所長:中島康之、以下「KDDI総合研究所」)は、インターネット上のECサイトにおける推薦システム(注1)の信頼性向上を目的として、悪意のある攻撃者(以下、攻撃者)からデータポイズニング攻撃(注2)を受けた場合でも、意図的な閲覧履歴データ(以下、不正なデータ)を除去し、一般ユーザの通常の閲覧や購買などの行動履歴からユーザの嗜好を正しく学習する新たなAI(以下、本AI)の開発に成功しました。本AIを用いることで、ECサイト運営者は攻撃者からの影響を受けずに、一般ユーザの嗜好に合った商品推薦を実現できます。

 

 

 

<本AIを推薦システムに適用した時のイメージ図>

 

 

【背景】
昨今のAIによる高度なデータ分析は、イノベーションを促進するとともに、業種や規模を問わず様々なサービスの発展に大きく寄与しています。しかし、インターネットを介して提供されたデータは、不特定多数のユーザが利用できる環境において収集されたものであり、悪意ある攻撃者により不正なデータを混入される恐れがあります。AIが不正なデータの影響を受けた場合、分析結果は意図的に操作され、予期せぬ被害を招く可能性があります。このため、安全で信頼できるAIの実現に向けて、不正なデータが含まれていても、その影響を受けずに正しく分析を行う新たなAIの確立が期待されています。

 

【今回の成果】
KDDI総合研究所は、推薦システムにおいて幅広く利用されている学習方法の1つである行列分解(注3)をベースとして、攻撃者の影響を受けずに一般ユーザの嗜好を正しく学習する新たなAIを開発しました。本AIは、攻撃者と一般ユーザの行動履歴が統計的に異なる性質を持つことを利用し、一般ユーザとは異なる特徴を持つ攻撃者の不正なデータを除去しながら学習を進めることで、安全性と信頼性の高い学習を実現します。映画の評価データを用いた評価実験(注4)を通して、既存の対策技術では7割程度の除去率でしたが、本AIにより、ほぼすべての不正データを除去することができ、攻撃の前後で同等の学習結果が得られることを確認しました。本AIを用いることで、推薦システムにおいてデータポイズニング攻撃が行われた場合でも、攻撃者により推薦する商品を意図的に操作されることなく、一般のユーザの嗜好にあった商品推薦が可能となります。ユーザの嗜好に合わない商品が頻繁に推薦されるようなECサイトでは信頼性が著しく低下しますが、本AIにより対策を行うことでユーザが安心してECサイトのサービスを利用できます。

 

 

 

<本AIの学習結果の図>

 

 

【今後の展望】
今後は社内外において本AIの有用性の検証を行います。特に、推薦システムでは、攻撃者がデータポイズニング攻撃により推薦される商品を操作する目的は様々なので、目的の異なる複数の攻撃に対しても本AIが対策として有効的であることを検証します。また、近年の推薦システムでは、行列分解だけでなく、深層学習を組み合わせたより複雑な学習方法が取り入れられています。このため、実用化に向けて、そのような複雑な学習方法をベースとした場合でも、攻撃者の影響を受けずに一般ユーザの嗜好を学習可能なAIの確立を目指します。

 

 

(注1)AIを用いてユーザの行動履歴からユーザの嗜好を学習し、嗜好する可能性高い商品をおすすめの商品として提示するシステム
(注2)AIを利用したシステムおいて、システムの出力を意図的に操作することを目的として、学習に用いるデータ集合に不正なデータを混入する攻撃
(注3)ある行列を複数の行列の掛け算に分解する操作
(注4)本評価実験では、人気の映画を閲覧したユーザに対して、特定の映画を推薦させようとする攻撃を想定

 

※ニュースリリースに記載された情報は、発表日現在のものです。 商品・サービスの料金、サービス内容・仕様、お問い合わせ先などの情報は予告なしに変更されることがありますので、あらかじめご了承ください。