講演情報

[B-15-13]カリキュラム学習による誤ラベル耐性を備えたモデル巡回型FL

◎△貝沼 遥生1、西尾 理志1 (1. Science Tokyo)

キーワード:

連合機械学習、カリキュラム学習、モデル巡回学習、分散機械学習

Tram-FLは,単一のモデルをデータ保有者間で巡回させながら学習することで,通信効率の良いDecentralized FLを実現できる.しかし,FLの参加者がもつデータにはラベル誤りが含まれる可能性があり,それが学習したモデルの性能を低下させる.
本稿では,カリキュラム学習を応用した,ラベル誤りに頑健な新たなTram-FL手法を提案する.誤ラベル付きサンプルは損失が大きくなりやすいため,提案手法は低損失サンプルから段階的に学習対象を広げ,学習初期の誤ラベルの影響を抑える.Tram-FLは単一のモデルを巡回させるため、モデルを保持していないノードは現時点での保有サンプルの損失を直接計算することはできない.そこで,過去の損失の推移から現在の損失を予測する仕組みを導入する.
CIFAR-10とResNet-18を用いた機械学習実験により,提案手法がTram-FLより高い正解率を達成することを示した.