講演情報
[5K1-OS-48-02]単語埋め込み空間の異方性が社会的バイアス測定に及ぼす影響
〇小野 晟太郎1、齋木 潤1 (1. 京都大学)
キーワード：
単語埋め込み、異方性、AI公平性
自然言語処理における公平性評価の文脈では，単語埋め込みモデルに内在するバイアスの定量化手法としてWEAT（Word Embedding Association Test）が広く用いられている．WEATを用いたこれまでの研究は，多くの言語モデルに社会的バイアスが内在することを一貫して報告してきた．しかし近年，学習済み埋め込み空間ではベクトルが特定の狭い領域に集中する「異方性」という現象が報告されており，この空間的歪みがバイアスの測定結果に大きく影響を与える可能性がある．本研究では，白色化変換を用いて埋め込み空間の異方性を補正し，補正前後でWEATスコアがどのように変化するかを調査した．評価実験では，人種・ジェンダー・年齢・障害などの社会的属性に関する連合を分析した．実験の結果，複数のカテゴリにおいて異方性補正後にWEATスコアが減少する傾向が確認された．特に，社会的バイアスとして報告されてきた項目の一部で顕著な減少が見られた．この結果は，従来のバイアス評価が空間の異方性に起因するアーティファクトを含む可能性を示唆しており，公平性評価における空間の正規化の必要性を示すものである．