講演情報
[4Yin-B-65]機械学習モデルに対する説明を用いた監査
〇藤井 康仁1、原 聡2 (1. 島根大学、2. 電気通信大学)
キーワード：
説明可能AI、機械学習、公平性、監査
機械学習モデルの監査において，監査者が観測できるのはクエリに対する予測ラベルに限られる．そのため，モデル運用者は監査中の予測ラベルだけを変更し，モデルの不適切な挙動（不公平性など）を隠蔽できる．さらに，既存の監査手法ではこのような隠蔽を見抜けない場合もあることが報告されている．本研究では，モデルの説明として特徴重要度が得られると仮定し，この場合に隠蔽操作を適切に検出できるかに着目する．そして，予測ラベルに加えて説明も監査材料として用い，両者に基づいて隠蔽を検出する方法を提案する．ACSEmploymentデータセットを用いた実験により，提案手法が既存手法よりも高い精度で隠蔽操作を検出できることを確認した．