[5M2-GS-2c] Machine learning

1:15 PM - 1:30 PM JST(4:15 AM - 4:30 AM UTC)

[5M2-GS-2c-06] Counterfactual Explanations of Time-Varying Rankings with a Focus on Feasibility

Rikuto Takano¹, 〇Ryuta Shiraishi¹, Ryusei Ohtani¹, Keiichi Namikoshi¹, Yuko Sakurai¹, Satoshi Oyama^2,3 (1. Nagoya Institute of Technology, 2. Nagoya City University, 3. RIKEN AIP)

Keywords:

Counterfactual Explanation,Ranking System,Time Series Estimation

反実仮想説明は，ブラックボックスな機械学習モデルの説明性を高める手法として注目されている．とくに，モデルの予測結果を所望の方向に変えるために必要な入力の最小限の摂動を特定できるため，望ましい結果を得るための意思決定支援にも有用である．ランキングシステムでは，ランキング内の特定エージェントが目標順位を得るために，どの特徴をどの程度変更すべきかを提示する．実運用では，提示された変更が現実に実行可能であることが説明の価値を左右する．既存研究は，時系列変動と複数エージェントの挙動を同時に考慮して実現可能性を主張するものの，十分ではない部分がある．具体的には，(i)特徴間の因果関係を無視して，特徴量探索を行っている点，(ii)時間的制約を十分に扱わず短期間では起こり得ない変化量を許す点である．本研究では(1)特徴量の変更が他の特徴に及ぼす因果的影響を考慮して探索を行う反実仮想説明手法と，(2)時間的妥当性も組み込み現実的な変化過程に整合する手法を提案する．実データでベースラインと比較し，過剰な摂動を抑えつつ実現可能性と説明妥当性が向上することを示した．