講演情報
[A-2-07]スムースエントロピーの誤差と連続性の解析
◎石川 悠樹1、八木 秀樹1 (1. 電気通信大学)
キーワード:
エントロピー、スムースエントロピー、情報量、連続性、可算無限アルファベット
確率分布 P のスムース Shannon エントロピーHε(P) は Shannon エントロピー H(P) を拡張した情報量であり,与えられた分布 P から ε の誤差を許容した近傍でエントロピー H(P) の下限をとる形で定義される.
エントロピー H(P) はアルファベットサイズが有限のときは連続となるが,アルファベットサイズが可算無限の場合は一般に不連続であることが知られている.一方で,スムースエントロピー Hε(P) の連続性については文献において明示されていない.
本稿では,スムースエントロピーを評価し,任意の εに対して連続であることを示す.
エントロピー H(P) はアルファベットサイズが有限のときは連続となるが,アルファベットサイズが可算無限の場合は一般に不連続であることが知られている.一方で,スムースエントロピー Hε(P) の連続性については文献において明示されていない.
本稿では,スムースエントロピーを評価し,任意の εに対して連続であることを示す.
