[5N2-GS-11h] AI and Society

12:30 PM - 12:45 PM JST(3:30 AM - 3:45 AM UTC)

[5N2-GS-11h-03] A Method of Counterfactual Explanation with Diversity Considering Causal Structure

〇Kanji Kunihiro¹, Taishiro Takashi¹, Yuta Sakai¹, Masayuki Goto¹ (1. Waseda University)

Keywords:

Counterfactual Explanation,XAI,Structural Causal Model,Causal Inference,Machine Learning

近年，機械学習モデルは医療や金融など多様な領域での意思決定支援に用いられている．しかし，基本的には，機械学習は入力と出力の関係性をデータから学習した予測モデルであり，より望ましい結果（出力）を得るためにどの特徴量をどの程度変更すべきなのかは明確でない．この課題に対し，予測モデルが目標クラスを出力するように，元の入力に対して最小限の変更を加えた入力を反実仮想プロファイルとして求め，元の入力との差分を改善アクションとして提示する反実仮想説明法が研究されている．反実仮想説明法の1つであるDiCEは，多様性を考慮しつつ複数の反実仮想プロファイルを同時に探索する手法である．DiCEにより，ユーザーは複数の改善アクションを比較し，目的や制約に応じて柔軟に選択できる．一方で，DiCEは特徴量間の因果関係を考慮していないため，改善アクションに伴い連動して変化する他の特徴量への影響を反映できないという課題がある．そこで本研究では，DiCEを拡張し，特徴量間の因果構造を反映可能な手法を提案する．人工データセットおよび実データセットを用いた定量評価を通して，提案手法の有効性と有用性を示す．