講演情報
[1Yin-B-19]ブラックボックス環境における差分進化を用いた時系列データ分類器への敵対的攻撃
〇山田 賢生1、田村 慶一1 (1. 広島市立大学)
キーワード：
差分進化、敵対的サンプル、時系列データ
近年，深層学習技術の発展により時系列データの分類精度は向上したが，入力データへの微小な摂動により誤分類を引き起こす敵対的サンプルの脅威が顕在化している．従来の攻撃手法はデータ全区間に摂動を加えるアプローチが主流であったが，元データとの差異が生まれ，気づかれやすいという点がある．また，FGSMやPGDといった勾配ベースの手法はホワイトボックス攻撃を前提としており，ブラックボックス環境下での攻撃は十分に検討されていない．
本研究では，差分進化（DE）を用いたブラックボックス環境下での敵対的攻撃手法を提案する．DEは勾配情報を必要とせず，入力と出力のみで最適解を探索できるため，モデル情報にアクセスできない場合にも適用可能である．提案手法では，摂動の「位置」と「大きさ」を最適化変数として定義し，局所的な摂動により誤分類を誘発する．評価関数として，モデルの正解率低下のみを用いる場合と，正解率低下とMAEを同時に考慮する場合の2種類を設計した．また，事前に各位置へ単一摂動を加えた際の正解率低下量を算出し，上位の位置を初期個体として与えることで収束性を向上させた．
本研究では，差分進化（DE）を用いたブラックボックス環境下での敵対的攻撃手法を提案する．DEは勾配情報を必要とせず，入力と出力のみで最適解を探索できるため，モデル情報にアクセスできない場合にも適用可能である．提案手法では，摂動の「位置」と「大きさ」を最適化変数として定義し，局所的な摂動により誤分類を誘発する．評価関数として，モデルの正解率低下のみを用いる場合と，正解率低下とMAEを同時に考慮する場合の2種類を設計した．また，事前に各位置へ単一摂動を加えた際の正解率低下量を算出し，上位の位置を初期個体として与えることで収束性を向上させた．