[3B]LLM拡張

16:20 〜 16:45

[3B-02] LLMに誤知識を注入する間違い学習手法の提案

*井上 博都¹、小林 亜樹¹ (1. 工学院大学)

発表者区分：学生
論文種別：ロングペーパー
インタラクティブ発表：あり

キーワード：

LLM、誤知識、追加学習

複数の大規模言語モデル（LLM） を用いることでより良い回答を得ようとするとき、複数のLLMはそれぞれ異なる回答をする事が望ましい。そこで、本研究ではLLMに対し、意図的に異なる回答をするように学習する手法を開発しようとし、学習方法による学習効率などについて検討を行う。具体的には、意図的な誤学習を通じて誤った知識を注入する誤知識注入手法を提案する。本手法は、LoRaによる追加学習によって学習データやパラメータの操作を調整する事で誤情報をモデルに学習させる。学習事例を通じて誤知識注入の効果を評価する。