講演情報
[5E1-GS-6d-06]量子インスパイヤードな視点によるHol-CCGのユニタリ合成と構文表現能力の解析
樋口 賢士1、〇山木 良輔1、谷口 忠大2,1 (1. 立命館大学、2. 京都大学)
キーワード：
量子インスパイヤード言語モデル、構文解析、ユニタリ変換、組み合わせ範疇文法
大規模言語モデルは卓越した性能を示す一方，その内部表現がブラックボックス化しており，言語知識がどのように処理されているかの解釈は困難である．この課題に対し，数学的透明性の高いモデルとして量子インスパイヤード言語モデルが期待されている．しかし，これらのモデルは言語の意味情報を豊富に含むものの，階層的な構文構造を明示化する枠組みは十分ではない．本研究では，量子論とは異なる文脈で提案されたHolographic CCG (Hol-CCG) に着目する．Hol-CCGは，離散的な構文理論である組み合わせ範疇文法を，巡回相関という演算を用いて連続ベクトル空間上でモデル化している．だが，巡回相関がなぜ構文構造の表現に適するのかについて，数理的な説明は限定的であった．そこで本研究では，巡回相関をフーリエ基底上の対角化されたユニタリ変換として再定式化し，量子ゲートとしての解釈を与える．さらに，量子的に一般化した枠組みにおいて基底変換の一般化と成分混合を導入した性能変化の検証を通して，Hol-CCGの構文表現能力がフーリエ基底上の対角的な位相操作という特異な数理構造に依存していることを明らかにした．