講演情報
[B-6-56]音声対話AIに対するガードレール方式の検討
〇伊藤 好彦1 (1. NTT株式会社)
キーワード：
ガードレール、音声対話AI
LLM（Large Language Model）の発展に伴い、音声を含む対話型AIの利用が拡大している。一方で、不適切発話や機微情報の取り扱いといったリスクへの対策として、入出力を制御するガードレール機能の重要性が高まっている。しかし、従来の多くのガードレールはテキストを対象としており、音声対話に特有の課題を十分に考慮していない。本稿では、音声対話AIに適用されるガードレール方式について検討する。 提案システムでは、中継部と検知部により音声をリアルタイムに処理する。中継部は音声を一時的に保持しつつ転送し、検知部は音声認識等を用いて不適切性の判定を行う。このとき、検知部による判定には一定の処理時間を要するため、判定結果に基づく制御と音声対話の応答性の両立が課題となる。 この課題に対し、一定時間のバッファリングを行う固定遅延方式と、判定結果に応じて遅延時間を調整する動的遅延方式を比較検討した。動的遅延方式では、簡易な判定で問題の可能性を検知した場合にのみ追加の判定処理を行う構成とすることで、通常時の遅延を抑制する。その結果、固定遅延方式は制御の確実性に優れる一方で応答性が低下しやすく、動的遅延方式は応答性を維持しやすいが判定の見逃しに影響を受けることが分かった。 以上より、音声対話AIにおいては、判定精度の確保を前提として動的遅延方式を適用することが有効であると示した。