先端技術研究所

自然言語処理分野の最難関国際学会EMNLP 2022で研究論文が採択

2022年12月5日
株式会社KDDI総合研究所

AIへの攻撃手法に対する新たな対策技術に関するKDDI総合研究所の研究論文（以下「本論文」）が、自然言語処理分野の最難関国際学会「Findings of EMNLP 2022（The 2022 Conference on Empirical Methods in Natural Language Processing）（注1）」に採択（論文採録率11.6%、EMNLP 2021実績）されました。

【研究概要】

深層学習による自然言語処理の高度化により、自然言語処理技術を文章の分類・要約、機械翻訳、質問応答などのシステムへの応用に関する研究が盛んに行われています。しかし、これらのシステムにはセキュリティに関する特有の脅威があることが知られています。本論文では、深層学習による自然言語処理に対する代表的な脅威のひとつである敵対的テキスト攻撃（注2）に着目し、その対策技術を提案しています。本論文で提案する対策技術は、敵対的テキスト攻撃の検知、攻撃により引き起こされた誤分類の修正、ならびに、攻撃に利用されている単語の特定、の3つの機能を持ちます。また、評価実験を通じ、提案技術は、前述の3つの機能において、2021年に発表された最新の既存研究の性能を上回っていることもわかりました。今後は、本論文の知見を生かし、AIを利用した自然言語処理システムの安全性向上に向けた取り組みを進めます。

【原著論文情報】
Hoang-Quoc Nguyen-Son, Huy Quang Ung, Seira Hidano, Kazuhide Fukushima and Shinsaku Kiyomoto. CheckHARD: Checking Hard Labels for Adversarial Text Detection, Prediction Correction, and Perturbed Word Suggestion. Finding of the 2022 Conference on Empirical Methods in Natural Language Processing

KDDIとKDDI総合研究所は、2030年を見据えた次世代社会構想「KDDI Accelerate 5.0」を策定し、その具体化に向け、イノベーションを生むためのエコシステムの醸成に必要と考えられる「将来像」と「テクノロジー」の両面についてBeyond 5G/6Gホワイトペーパーにまとめました。両社は新たなライフスタイルの実現を目指し、7つのテクノロジーと、それらが密接に連携するオーケストレーション技術の研究開発を推進しており、セキュリティ分野においては「AIシステムなどのセキュリティ」に関する研究に取り組んでいます。本論文の研究成果を基に、お客さまや社会の皆さまに安心してお使いいただけるAIの実現に向け、引き続き研究開発を推進していきます。

（注1）The 2022 Conference on Empirical Methods in Natural Language Processing
（注2）文章に対し、人間が気づきにくい変更（単語の置き換え等）を加えることで、AIに誤分類を引き起こす攻撃。敵対的テキスト攻撃に利用される文章を敵対的テキストという。

※ニュースリリースに記載された情報は、発表日現在のものです。商品・サービスの料金、サービス内容・仕様、お問い合わせ先などの情報は予告なしに変更されることがありますので、あらかじめご了承ください。