[4Yin-B] Poster 7

[4Yin-B-48] Controlling Ingroup Bias Based on the Internal Representations of Large Language Models

〇Kohei Sembuku¹, Keita Nishimoto¹, Kimitaka Asatani¹, Ichiro Sakata¹ (1. The university of Tokyo)

Keywords:

LLM,Ingroup bias

大規模言語モデル（LLM）は人物評価や意思決定支援へ利用される一方で、不公平な判断を導く認知バイアスを示す恐れがある。こういったLLMにおける認知バイアスを抑制・制御する手法が提案されてきたが、着目されてきた認知バイアスは一部にとどまっている。本研究では、自らと同じ集団を優遇する「内集団バイアス」に着目した。ここでは、内集団バイアスを潜在的なものと顕在的なものの2つに分類し、LLMの内部表現から内集団バイアスに対応するベクトルを抽出した。このベクトルに基づいた制御で内集団バイアスの制御が可能であることを示すとともに、同じ内集団バイアスでも、潜在的バイアスと顕在的バイアスは異なる内部表現を持つことを明らかにした。また、LLMによる評価の理由付けを分類することで、潜在的バイアスと顕在的バイアスではその理由付けに言語的な現れ方が異なることを示した。これらの結果は、バイアスを抑制された公平なLLMの運用可能性や、バイアスの発生メカニズムについて示唆を与えるものである。