講演情報
[P1-53]AI知識の異なる利用者に対するXAIデザインの実験的検討
*前東 晃礼1、山田 誠二2 (1. 静岡大学、2. 神奈川大学)
キーワード：
ヒューマンコンピュータインタラクション、説明可能なAI（XAI）、解釈可能性、信頼
本研究は，AIに関する知識の高いまたは低い利用者において，AIの内部処理を可視化する技術である説明可能なAI（XAI）の形式の違いが，AI内部処理の解釈可能性とAIに対する信頼に与える影響を実験的に検討した．実験では，AIとともに街並みの画像から撮影国を推測する課題を用いて，AI知識が高いまたは低い参加者が，3種類のXAI形式による説明の解釈可能性とAIへの信頼を評価した．XAIの形式として，畳み込みニューラルネットワーク（CNN）に言及する説明，Grad-CAMによるヒートマップ説明，大規模言語モデル（LLM）により生成された説明が用いられた．実験の結果，AIの知識に関わらず，参加者は， LLM説明によって解釈可能性や感情的信頼を高めた．また，AIの知識が低い参加者は， CNNのような技術用語やGrad-CAMのような可視化技術について，十分な理解を伴わないまま，解釈可能性および信頼を高く評価した．これらの結果は，XAIの設計において，利用者のAIの知識に応じて，技術用語や可視化技術，さらにLLMによる誤導を避ける設計が重要であることが示された．