Presentation Information
[24p-31A-8]Towards Small-Area, Low-Energy and Highly Accurate CiM I: I/O Range Training Method
〇Ayumu Yamada1, Naoko Misawa1, Chihiro Matsui1, Ken Takeuchi1 (1.Univ. Tokyo)
Keywords:
Computation-in-Memory (CiM),Neural Network Accelerator,low-bit inference
不揮発性メモリを用いたComputation-in-Memory（CiM）における大きな課題の一つであるコンバータによるチップ面積・エネルギー消費のボトルネックを解消するため、CiMにおける各層入出力の低ビット化を行った。低ビット化による精度低下を防ぐため、学習時に量子化を考慮した各層入出力レンジの最適化を行う手法LIORAT（Layer I/O Range Training）を提案した。LIORATはResNet-32に適用され、CIFAR-10データセットにおいて入出力4-bitの場合に90.2%、入力2-bit, 出力4-bitの場合に87.1%の精度を達成した。