[A-2] Information Theory

10:30 AM - 10:45 AM JST(1:30 AM - 1:45 AM UTC)Candidate for Academic Incentive Award

[A-2-07] Error and Continuity of Smooth Entropy

◎Yuki Ishikawa¹, Hideki Yagi¹ (1. The University of Electro-Communications)

Keywords:

entropy,smooth entropy,information,continuity,countably infinite alphabet

確率分布 P のスムース Shannon エントロピーHε(P) は Shannon エントロピー H(P) を拡張した情報量であり，与えられた分布 P から ε の誤差を許容した近傍でエントロピー H(P) の下限をとる形で定義される．
エントロピー H(P) はアルファベットサイズが有限のときは連続となるが，アルファベットサイズが可算無限の場合は一般に不連続であることが知られている．一方で，スムースエントロピー Hε(P) の連続性については文献において明示されていない．
本稿では，スムースエントロピーを評価し，任意の εに対して連続であることを示す．