[16a-K306-1~11] FS.1 Focused Session "AI Electronics"

9:30 AM - 9:45 AM JST(12:30 AM - 12:45 AM UTC)

[16a-K306-3] Hetero-CiM for Transformer Models with Heterogeneous Integration of SRAM CiM and MLC ReRAM CiM

〇Naoko Misawa¹, Tao Wang¹, Chihiro Matsui¹, Ken Takeuchi¹ (1.Univ. Tokyo)

Keywords:

Transformer,ReRAM,SRAM

効率的に並列処理をし、高い推論精度を達成するTransformerモデルを、エッジ端末に向けてモデルのパラメーター数を削減し、モデルの構造に合わせてSRAMとMLC ReRAMのComputation-in-Memory（CiM）を異種統合させたHetero-CiMを提案する。