先端技術研究所

セキュリティ分野の最難関国際学会NDSS 2023で研究論文が採択

2022年12月5日
株式会社KDDI総合研究所

AIへの新しい攻撃手法に関するKDDI総合研究所の研究論文（以下「本論文」）が、セキュリティ分野の最難関国際学会である「NDSS（The Network and Distributed System Security） 2023（注1）」に採択（論文採録率16.2%、NDSS 2022実績）されました。本論文は、KDDI総合研究所の指導の下で実施されたカリフォルニア大学サンディエゴ校との共同成果です。

【研究概要】

動画配信サービスの普及により動画トラフィックが年々増加しています。トラフィック負荷の低減に向け、AIを利用した動画の圧縮符号化に関する研究が盛んに行われていますが、これらのAIにはセキュリティに関する特有の脅威があることが知られています。本論文では、AIに対する代表的な脅威のひとつである敵対的サンプル攻撃（注2）に着目し、AIを利用した動画の圧縮符号化へ与える影響を体系的に評価しています。その結果、動画の符号化効率や品質を劣化させることにより、復号後の動画を閲覧したユーザーの満足度を大きく下げることができる、新たな攻撃手法を発見しました。さらに、この復号後の動画を動画分類に利用した場合、高い確率で誤分類を生じさせることができることも初めて分かりました。今後は、本論文の知見を生かし、AIを利用した動画圧縮符号化の安全性向上に向けて、敵対的サンプル攻撃に耐性のある対策の確立を目指します。

【原著論文情報】
Jung-Woo Chang, Mojan Javaheripi, Seira Hidano, and Farinaz Koushanfar.
RoVISQ: Reduction of Video Service Quality via Adversarial Attacks on Deep Learning-based Video Compression. Proceedings on the Network and Distributed System Security 2023.

KDDIとKDDI総合研究所は、2030年を見据えた次世代社会構想「KDDI Accelerate 5.0」を策定し、その具体化に向け、イノベーションを生むためのエコシステムの醸成に必要と考えられる「将来像」と「テクノロジー」の両面についてBeyond 5G/6Gホワイトペーパーにまとめました。両社は新たなライフスタイルの実現を目指し、7つのテクノロジーと、それらが密接に連携するオーケストレーション技術の研究開発を推進しており、セキュリティ分野においては「AIシステムなどのセキュリティ」に関する研究に取り組んでいます。本論文の研究成果を基に、お客さまや社会の皆さまに安心してお使いいただけるAIの実現に向け、引き続き研究開発を推進していきます。

（注1）The Network and Distributed System Security Symposium (NDSS) 2023
（注2）人間には分からないようなわずかなノイズを加えた画像により、AIに誤分類を引き起こす攻撃

※ニュースリリースに記載された情報は、発表日現在のものです。商品・サービスの料金、サービス内容・仕様、お問い合わせ先などの情報は予告なしに変更されることがありますので、あらかじめご了承ください。