講演情報
[B-6-49]イベント駆動型AI入力量制御によるネットワーク監視推論負荷削減
〇本間 俊介1、坂部 拓実1、高橋 賢1 (1. NTT株式会社)
キーワード：
ネットワーク運用自動化、生成AI、AI推論
ネットワーク運用の自動化に言語モデル（LLM/SLM）を用いる動きが進むが、これらは処理データ量に応じた推論負荷を伴い、常時・多数の監視への適用は負荷が大きい。詳細分析は高コスト、一律削減は検知漏れ、というトレードオフがある。本稿では、異常が構成変更直後に生じやすい点に着目し、コンピュート操作イベントを契機にSLMへの入力データ量を平常時は絞りイベント時のみ詳細化する手法を提案する。評価により、負荷は入力トークンが支配的で、入力量削減が有効であることを示す。