高速化・効率化

16:00 〜 16:25

[9B-01] Attentionスコアの分布類似性を用いた大規模言語モデルの動作異効率化および省メモリ化

*谷口 令¹、肖 川^1,3、小山田 昌史²、董 于洋²、鬼塚 真¹ (1. 大阪大学大学院情報科学研究科、2. 日本電気、3. 名古屋大学)

発表者区分：学生
論文種別：ロングペーパー
インタラクティブ発表：あり

キーワード：

LLM、効率化、Transformer、Attention、省メモリ

閲覧にはパスワードが必要です