[5N2-GS-11h] AIと社会：説明可能性と反実仮想分析

12:30 〜 12:45

[5N2-GS-11h-03] 多様性を確保しつつ因果構造を考慮可能な反実仮想説明法の提案

〇國廣 侃司¹、隆 大志郎¹、阪井 優太¹、後藤 正幸¹ (1. 早稲田大学)

キーワード：

反実仮想説明、説明可能AI、構造的因果モデル、因果推論、機械学習

近年，機械学習モデルは医療や金融など多様な領域での意思決定支援に用いられている．しかし，基本的には，機械学習は入力と出力の関係性をデータから学習した予測モデルであり，より望ましい結果（出力）を得るためにどの特徴量をどの程度変更すべきなのかは明確でない．この課題に対し，予測モデルが目標クラスを出力するように，元の入力に対して最小限の変更を加えた入力を反実仮想プロファイルとして求め，元の入力との差分を改善アクションとして提示する反実仮想説明法が研究されている．反実仮想説明法の1つであるDiCEは，多様性を考慮しつつ複数の反実仮想プロファイルを同時に探索する手法である．DiCEにより，ユーザーは複数の改善アクションを比較し，目的や制約に応じて柔軟に選択できる．一方で，DiCEは特徴量間の因果関係を考慮していないため，改善アクションに伴い連動して変化する他の特徴量への影響を反映できないという課題がある．そこで本研究では，DiCEを拡張し，特徴量間の因果構造を反映可能な手法を提案する．人工データセットおよび実データセットを用いた定量評価を通して，提案手法の有効性と有用性を示す．