[2Yin-A] Poster 3

[2Yin-A-54] Visualization of Image Regions Contributing to Predictions of Piecewise-Linear Convolutional Neural Networks

〇Sayumi Kaneko¹, Daisuke Kimura¹, Takahiro Kawaguchi¹, Ryoichi Furushima¹, Naoyuki Matsumoto¹, Shun Muroga¹ (1. National institute of Advanced Industrial Science and Technology (AIST))

Keywords:

Explainable AI,Convolutional Neural Network,Material Infomatics

本研究は，材料特性予測への応用を見据え，回帰用のCNNモデルを解釈可能とすることを目的とする．ReLUの区分線形性に基づき，中間特徴量とターゲット値の関係を入力ごとの局所線形関数として厳密に表現するとともに，寄与分解の厳密性を確保するため畳み込み層にバイアスを含まないモデル構造を採用した．合成データによる検証の結果，設計上期待される符号構造と概ね整合する寄与分布が得られ，浅い層においても符号の整合性が比較的保たれる傾向が確認された．この結果は，回帰用の CNN モデルの解釈において，区分線形性に基づく厳密な分解が有効である可能性を示唆するものである．