2026년 10월 24일, ‘Once a Tree, Always a Tree? Cross-lingual Transfer of Hierarchical Generalization in Language Models’라는 제목의 연구 논문이 arXiv 플랫폼에서 번호 2610.30960v1로 공식적으로 발표되었습니다. 이 연구는 언어모델(LMs)의 언어 간 전이 과정에서 아직 명확히 규명되지 않은 핵심 메커니즘에 초점을 맞추고 있습니다: 모델이 원어(L1)에서 습득한 계층적 문법 구조에 대한 증거를 목표어(L2)로 효과적으로 전이하여 L2의 계층적 일반화 능력을 뒷받침할 수 있는지 여부입니다.
이 가설을 검증하기 위해 연구팀은 새로운 ‘초언어적 빈 자극’(CPOS) 실험 패러다임을 설계하였다. L2 어휘집에서 선형 및 계층적 문법 규칙의 모호성을 의도적으로 구성하고, 동시에 L1에서 계층적 규칙을 지지하는 긍정적 증거의 양을 엄격히 통제하였다. 그 결과, 언어 모델이 L1의 계층 구조에 대한 증거를 L2로 부분적으로만 이전하며, 감지 가능한 미약한 계층적 선호를 생성할 뿐임을 보여주었다. 또한 이러한 이전의 강도는 언어 쌍에 따라 달라지는 것으로 나타났다.
추가적인 소멸 분석을 통해, 어휘 중복이 언어 간 계층적 구문 일반화 이전의 핵심 조건임을 밝혀냈다. 이러한 발견은 주 실험에서 관찰된 언어 간 의존성의 원인을 설명할 뿐만 아니라, 언어 모델이 새로운 언어를 추가로 지속적으로 학습하는 과정에서도 언어학적 증거에 대한 이전이 자동으로 이루어지는 것이 아니라 특정 조건에 크게 의존하며 상당한 한계를 갖는다는 점을 시사한다.