매개변수 기반 세션 상태는 기록을 다시 재생하지 않고도 검색 의도를 복구합니다

arXiv:2610.33047v1 발표 유형: 신규

요약: 장기간 실행되는 어시스턴트는 종종 여러 턴 전에 설정된 지시 대상, 제약 조건 및 활성 목표를 기반으로 한 후속 요청을 해석합니다. 따라서 핵심 과제는 단순히 문맥의 길이가 아니라 검색 의도입니다. 예를 들어, “이전 구성 설정을 사용하라”와 같은 현재 쿼리는 관련 증거를 찾는 데 필요한 프로젝트, 엔터티, 버전 등의 용어를 포함하지 않을 수 있습니다. 장문맥 모델은 대화 내용을 재생함으로써 이러한 용어를 복구할 수 있지만, 반복적으로 과거 대화를 처리하는 비용을 부담해야 합니다. 기존의 검색 증강 생성(RAG) 방식은 비용이 저렴하지만, 정보가 충분한 쿼리라는 전제를 갖습니다. 대화형 재작성 방식은 과거 대화를 다시 읽거나 명시적으로 유지되는 텍스트 메모리에 의존합니다. 우리는 \emph{Parametric Session State}(\method{})를 도입합니다. 이는 사실적 지식을 외부에 두면서도 무엇을 검색해야 하는지를 기억하는 재사용 가능한 세션 메모리 계층입니다.