[5N2-GS-11h] AIと社会：説明可能性と反実仮想分析

13:15 〜 13:30

[5N2-GS-11h-06] FedC-CHVAE: 連合学習による反事実的説明の新たなアプローチ

〇豊田 明広¹、河又 裕士^2,3、岡田 幸彦^2,3 (1. 筑波大学理工情報生命学術院、2. 筑波大学システム情報系、3. 筑波大学高等研究院人工知能科学センター)

キーワード：

連合学習、反事実的説明、説明可能性

反事実的説明（CE）は，予測結果に対して「どの特徴をどの程度変えれば別の予測結果になり得るか」を示すことで透明性を向上させられる．しかし，データが組織間に分散する連合学習環境では，クエリや生成候補を集中化すると機密情報が漏洩するリスクがあり，また各クライアント単独では生成モデル型CE手法を学習するのに十分なデータを持たない可能性があるため，妥当な反事実を生成することは困難である．そこで本研究は，生成モデル型CEであるC-CHVAEを連合学習に拡張したFedC-CHVAEを提案する．各クライアントは不変特徴量で条件付けられたVAEを訓練し，サーバは重みのみを集約する。反事実探索と生成は各クライアントでローカルに実行される。Adultデータセットを用いて3つの独立同分布なクライアントを想定した実験では、提案手法が近接性、疎性、逸脱性においてローカルデータのみの学習を上回り、全データを使った学習に近い水準を達成することが示された。この結果は分散データ環境においても、プライバシーを損なわずに分布に整合した反事実的説明を実装できる可能性を示している。