[B-6] Network Systems

9:45 AM - 10:00 AM JST(12:45 AM - 1:00 AM UTC)

[B-6-49] Event-Driven Input Volume Control for Reducing Inference Load in Network Monitoring AI

〇Shunsuke Homma¹, Takumi Sakabe¹, Ken Takahashi¹ (1. NTT, Inc.)

Keywords:

Network Operation Automation,Gen AI,AI Inference

ネットワーク運用の自動化に言語モデル（LLM/SLM）を用いる動きが進むが、これらは処理データ量に応じた推論負荷を伴い、常時・多数の監視への適用は負荷が大きい。詳細分析は高コスト、一律削減は検知漏れ、というトレードオフがある。本稿では、異常が構成変更直後に生じやすい点に着目し、コンピュート操作イベントを契機にSLMへの入力データ量を平常時は絞りイベント時のみ詳細化する手法を提案する。評価により、負荷は入力トークンが支配的で、入力量削減が有効であることを示す。