本文へ移動
AI NEWS JOURNAL
arXiv cs.CLAI NEWS / JOURNAL

新たな研究は、言語間貧刺激(CPOS)実験パラダイムを提案し、言語モデルの階層的汎化能力における条件付き移行を明らかにした

2026年10月24日、arXivは論文2610.30960v1を公開し、言語モデルが多言語間の継続的学習において、源言語(L1)の階層構造に関する証拠を目標言語(L2)へ移行する能力を定量化するための、跨言語貧刺激(CPOS)実験デザインを提案した。実験の結果、この移行は部分的には成立するものの完全ではなく、しかも言語ペアおよび語彙の重複度に大きく依存することが示された。

AI 自動翻訳

2026年10月24日、『Once a Tree, Always a Tree? Cross-lingual Transfer of Hierarchical Generalization in Language Models』という題名の研究論文が、arXivプラットフォームにおいて番号2610.30960v1で正式に公開されました。本研究は、言語モデル(LMs)における言語間移行に関する未解明の核心的メカニズムに焦点を当てています。すなわち、モデルが源言語(L1)で習得した階層的文法構造に関する証拠を、目標言語(L2)へ効果的に移転し、それによってL2における階層的汎化能力を支えられるのか、という問いです。

この仮説を検証するため、研究チームは新たな「跨言語貧刺激」(CPOS)実験パラダイムを設計した。L2のコーパスにおいて、線形規則と階層規則の両方による曖昧性を意図的に構築し、同時にL1において階層規則を支持する正の証拠の量を厳密に制御した。その結果、言語モデルはL1の階層構造に関する証拠を完全には移行せず、部分的にのみ移行することが示され、わずかではあるが検出可能な階層的選好を生じさせた。さらに、移行の強度は言語対によって異なることが明らかになった。

さらに消融分析を行った結果、語彙の重複が言語間階層における構文の汎化的移転の鍵となる条件であることが明らかになった。この発見は、主実験における言語対依存性の成因を説明するだけでなく、言語モデルが新たな言語を追加して継続的に学習する際に、言語学的証拠への移転が自動的に行われるわけではなく、特定の条件に強く依存しており、著しい限界を有することも示している。

情報源

arXiv cs.CL

関連テーマ

← すべてのニュースへ