講演情報

[A-14-24]系列データ処理モデルのFPGA実装に関する調査

△上久保 幸陽1、芝 慎太朗1,2、川原 圭博1 (1. 東京大学、2. 慶應義塾大学)

キーワード:

FPGA、系列モデル、AI、ニューラルネットワーク、RNN、Transformer

近年、大規模言語モデル(LLM)の急速な普及に伴い、その基盤となる系列モデルの計算効率が改めて注目されている。現在主流のTransformer は高い並列性と表現力を持つ一方、長系列処理や推論時のレイテンシに課題を抱える。これに対し、古典的な再帰型ニューラルネットワーク(RNN)は系列長に依存しないが、並列化が困難である。近年注目を集める状態空間モデル(SSM)などの線形 RNN は、これらの課題を共に緩和したモデルである。本稿では、古典的 RNN・Transformer・線形 RNN の 3 種の系列モデルについて、アルゴリズムレベルでの体系的比較を行う。さらに、各モデルを FPGA に実装する際の設計上の課題と既存の取り組みを整理し、各アーキテクチャのハードウェア親和性を議論する。これにより、エッジ推論や低消費電力環境における系列モデル選択の指針を示すことを目指す。