[2L]プライバシ保護技術

14:45 〜 15:10

[2L-04] 畳み込みニューラルネットワーク推論処理におけるモデルパラメータの部分的秘匿化によるモデル保護

*新井 大稀¹、橋本 太志¹、鈴木 拓也¹、山名 早人¹ (1. 早稲田大学)

発表者区分：学生
論文種別：ロングペーパー
インタラクティブ発表：あり

キーワード：

クラウドコンピューティング、モデル保護、畳み込みニューラルネットワーク、プライバシ保護機械学習

クラウド上での機械学習の推論処理実行において，クラウド上からの学習済みモデルの漏洩が懸念される．この懸念への対策として，推論処理の一部分をモデル所有者側で処理する方法や，モデルパラメータの一部を準同型暗号化して処理する方法による，モデルパラメータの部分的秘匿化が挙げられる．しかし，秘匿されていないモデルパラメータ（非秘匿部分）は漏洩リスクを伴う．この漏洩リスクの評価はこれまで行われていない．そこで，本稿では，畳み込みニューラルネットワークを対象に，モデル保護のためにはどのようにモデルパラメータを秘匿すべきかを明らかにする．具体的には，非秘匿部分が漏洩した場合を想定し，非秘匿部分を固定した状態で再学習を行うことで秘匿部分を復元する．そして，復元したモデルの正解率および忠実度を比較することで秘匿部分と保護性能の関係を評価する．評価実験の結果，VGG-11，VGG-16，ResNet18において，入力に近い3～7層のモデルパラメータを秘匿することがモデル保護に重要であることを明らかにした．