講演情報
[24a-31A-1]実機エラーモデルに基づく光アナログ計算機シミュレーション:
大規模モデル適用性とFine tuning学習応用について
〇中島 光雅1、池田 幸平2、川上 哲志3、橋本 俊和1 (1.NTT先端集積デバイス研、2.NTT物性研、3.九州大)
キーワード：
光コンピューティング,アナログ計算,ニューロモルフィック
光回路を用いたアナログ行列計算は、光の空間・波長・時間並列性を利用することで、高速かつ低電力な演算が可能であり、近年注目を集めている。一方、このようなアナログ計算は光信号のノイズや物理デバイスの制御誤差等の物理的なエラーを免れない。これまでの光演算機での報告の多くは手書き文字認識タスク等、単純なものに限定されており、このようなノイズが存在する中で現在注目を集めるような大規模モデルへの適用が可能であるかは不明であった。本報告では、筆者らが構築してきた光計算機の実機ノイズモデル等を元に、このようなエラーを含むアナログ計算をシミュレーション上で模倣し、大規模AIモデルに適用可能であるかを検討する。検討の結果、1億近いパラメータを有するようなネットワークにおいても、有意な学習・推論・生成などを行えることが分かった。