Presentation Information

[B-6-23]Class-Interlocking Buffer Control for Integrated AI Networks

〇Kaori Kanno Kurita1, Koji Sugisono1, Kanji Nakano1, Hideo Tsuchiya1, Ken Takahashi1 (1. NTT, Inc.)

Keywords:

QoS,Token Bucket,Phantom Queue,ASIC,ECN

AI学習とAI推論を統合収容するネットワークにおいて,学習のインキャストによる推論パケットの入路廃棄や巻き添え遅延が課題となる.本稿では,スイッチASICの入路段階で推論特性から脅威度をハードウェア演算し,演算結果に基づき学習用仮想ファントムキューより推論パケット入路に必要なトークンを動的に没収のうえ,学習側にのみECNを送信する他クラス連動型入路バッファ制御方式について検討した結果を報告する.