講演情報

[2Yin-B-61]低次元分類器の幾何学構造における中心支配クラスとラベル依存

〇代 美月1、神野 健哉1 (1. 東京都市大学大学院)

キーワード:

画像分類、CNN、Neural Collapse、幾何学構造

近年,Neural Collapse により,分類器最終層の特徴表現と重みベクトルが規則的な幾何学構造を形成することが示されている.しかし,特徴次元(d=2)がクラス数に対して不足する低次元条件では理想構造は成立せず,その幾何学的挙動は十分に解明されていない.本研究は,低次元分類器で観測される中心支配クラス構造に着目し,その出現がクラス数だけでなくラベルの性質に依存するという仮説を検証する.CIFAR-10 を用い,中心支配クラスとして出現頻度の高いラベル群から構成した Set-H と,低頻度ラベル群から構成した Set-L を設計し,クラス数4,5,6 に対して各100試行を実施した.その結果,Set-H ではクラス数の増加に伴い中心支配構造の出現が増加した一方,Set-L ではほとんど観測されなかった.また,中心支配クラスには bird,cat,deer が選ばれやすい偏りが確認された.さらにクラス間フィッシャー距離で評価すると,これらのラベルは複数クラスと距離が小さい傾向を示した.以上より,低次元条件下の分類器幾何構造はクラス数のみならずラベルの性質にも依存することが示唆された.