講演情報
[5M2-GS-2c-06]実現可能性を重視した時間的順位変動の反実仮想説明
高野 利空人1、〇白石 竜大1、大谷 龍生1、浪越 圭一1、櫻井 祐子1、小山 聡2,3 (1. 名古屋工業大学、2. 名古屋市立大学、3. 理化学研究所 革新知能統合研究センター)
キーワード：
反実仮想説明、ランキングシステム、時系列推定
反実仮想説明は，ブラックボックスな機械学習モデルの説明性を高める手法として注目されている．とくに，モデルの予測結果を所望の方向に変えるために必要な入力の最小限の摂動を特定できるため，望ましい結果を得るための意思決定支援にも有用である．ランキングシステムでは，ランキング内の特定エージェントが目標順位を得るために，どの特徴をどの程度変更すべきかを提示する．実運用では，提示された変更が現実に実行可能であることが説明の価値を左右する．既存研究は，時系列変動と複数エージェントの挙動を同時に考慮して実現可能性を主張するものの，十分ではない部分がある．具体的には，(i)特徴間の因果関係を無視して，特徴量探索を行っている点，(ii)時間的制約を十分に扱わず短期間では起こり得ない変化量を許す点である．本研究では(1)特徴量の変更が他の特徴に及ぼす因果的影響を考慮して探索を行う反実仮想説明手法と，(2)時間的妥当性も組み込み現実的な変化過程に整合する手法を提案する．実データでベースラインと比較し，過剰な摂動を抑えつつ実現可能性と説明妥当性が向上することを示した．