TaxoSAE:分類学的論理によるスパースオートエンコーダの再考
arXiv:2610.31894v1 発表タイプ:新規 要旨:近年のスパースオートエンコーダ(SAE)は、大規模言語モデル(LLM)の表現を解釈可能な特徴量に分解し、符号化された知識の精密な読み出しと制御を可能にしています。しかし、既存のSAEでは各特徴量が独立した単位として扱われており、実世界の知識は多くの場合、階層的に分類されています。その結果、読み出しには分類学的な整合性が保証されず、制御においても編集の適用範囲を細かく指定する粒度が欠けています。そこで私たちは、is-a(上位語―下位語)関係に基づき、分類学的情報をSAEの特徴空間に明示的に符号化するTaxoSAEを提案します。TaxoSAEは、分類体系を模倣して各分類レベルごとに1つのSAEを配置し、さらに各概念が対象となる分類レベルで活性化されるよう学習させるための分類学的アライメント損失を導入します。

