연구는 서로 다른 긴 컨텍스트 모델 간의 증거 위치에 대한 민감성에서 나타나는 체계적인 차이를 밝혀냈다.
2026년 10월 24일 arXiv에 게재된 한 실증 연구(논문 번호 2610.31135v1)는 긴 컨텍스트 질문응답 과제에서 Transformer, 상태공간 모델(state-space) 및 혼합 Mamba 아키텍처 간의 위치 편향 현상을 비교한 결과, Transformer 모델은 대체로 시작 위치의 증거를 활용하는 데 유리한 특성을 보이는 반면, 상태공간 모델은 이러한 특성을 결여하고 있으며, 두 모델 모두 끝 위치의 증거를 선호한다는 점을 밝혀냈다.
추천 이유：이 연구는 통제된 실험 설계를 기반으로 하며(9개의 교란 문서를 고정하고, 단일 황금 문서를 이동시키는 방식), 최초로 통합 평가 프레임워크 하에서 세 가지 주요 시퀀스 모델링 아키텍처의 위치 민감성을 수평적으로 비교함으로써, 모델 성능과 아키텍처 유형, 프롬프트 엔지니어링, 작업 특성 간의 강한 상호 연관성을 규명하였다. 이는 긴 컨텍스트 AI 시스템의 설계와 디버깅에 있어 직접적인 참고 가치를 제공한다.