講演情報
[4F5-OS-29c-05]ハードアテンションによる観測要求の監査と制御：プライバシー配慮型アクティブビジョン
〇潘 鵬丞1、米倉 将吾1、國吉 康夫1 (1. 東京大学)
キーワード：
ハードアテンション、プライバシー保護、人間介在
ハードアテンションエージェントは逐次的な局所観測によって能動的に知覚し、そのスキャンパスはモデルが「どこにアクセスしようとしたか」を記録する監査可能なログとなり、Human-in-the-Loop の監督を可能にする。本研究では、Human-in-the-Loop 監査を備えたプライバシー配慮型アクティブビジョンのプロトタイプを提案する。各ステップでエージェントが次の観測位置を提案し、機微領域（sensitive region）制約の下で人間監査者が承認または上書き（override）する。漏えいは、モデル提案に基づく requested leakage と、実際に観測された executed leakage により定量化する。CIFAR-10 において画像の 25% を機微領域として合成した実験では、無制約モデルは精度 63.96%、executed leakage 0.453 を達成した。自動安全ポリシーにより executed leakage をほぼ 0 に低減できる一方、精度は 59.44% に低下した。さらに人間監査によるデモでは、executed leakage 0 を維持しつつ、監査後精度 72.01% を達成した。