Presentation Information
[B-15-15]An Investigation into Hallucination Mitigation for Wireless AI Agents Based on Numerical Tracking Graphs
◎Aoto Kaburaki1, Takahiro Yamazaki1, Kahoko Takahashi1, Takayuki Yamada1 (1. NTT, Inc.)
Keywords:
Wireless communication system,AI agent,Hallucination
大規模言語モデル(LLM)にツール（任意のアプリケーションの実行環境）を与えることで，様々なタスクを実行可能なAIエージェントが登場し，発展してきた．無線通信分野においては，自律的な無線ネットワーク管理を実現するための重要な技術として，AIエージェントが注目を集めている．しかし，LLMがベースとなるAIエージェントは原理的にハルシネーションを引き起こす可能性があり，特に数値処理において発生しやすく，無線ネットワーク管理においては課題となっている．そこで本研究では，AIエージェントが出力する数値の生成ルートを有向グラフとして記録する．そして，あらかじめ用意されたツールに由来せずに出力された数値（LLM自体で推論を行った数値等）はハルシネーションの可能性が高いと判定し，AIエージェントに再生成を指示する．本提案手法は，無線ドメインのベンチマークにおいて，一般的な自己批判による出力品質改善法と比較して，LLMの呼び出し回数を抑えつつベンチマークスコアが改善することを示す．