제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
arXiv:2610.37796v1 발표 유형: 신규 초록: 최근 연구에서는 대규모 언어 모델이 특정 개념을 단일 방향이 아닌 다차원적 다양체로 표현할 수 있다고 가정해 왔습니다. 이러한 다양체를 활용하여 표현을 해석하거나 조정하는 과정에서는, 일반적으로 다양체를 따라 이동하는 것이 표현된 개념에 대한 연속적인 변화와 일치한다고 여겨집니다. 본 연구에서는 이러한 연속적 다양체 가정을 전형적인 주중 다양체에 대해 검증합니다. 주목할 만한 원형 기하학에도 불구하고, 우리는 주중 표현들이 연속적인 링이라기보다는 원형으로 배열된 일곱 개의 분리된 상태와 더 유사하다는 점을 발견했습니다. 첫째, 국소적 민감도가 요일에 맞춰 일곱 개의 최소점을 가지며, 이는 다양체 내 조정 하에서 표현과 행동 간의 계단식 매핑을 생성함을 보여줍니다. 둘째, w
arXiv:2610.36709v1 발표 유형: 신규 초록: 추론 언어 모델은 수학 문제를 풀 때 긴 사고 체인을 작성하며, 문제당 여러 개의 체인을 샘플링한 뒤 다수결을 통해 정답을 도출하면 생성된 텍스트의 양이 크게 증가하는 대신 정확도가 향상된다. 이 비용을 줄이는 인기 있는 방법으로는, 모델이 각 토큰을 작성할 때 갖는 신뢰도를 기준으로 각 체인을 점수화하는 방식이 있다. 여기서 토큰은 단어 또는 단어의 일부를 의미한다. 이 방법에서는 2048개의 토큰으로 구성된 이동 평균 창을 사용해 해당 신뢰도를 평균화하고, 가장 낮은 평균값을 기준으로 체인을 유지하거나 중단한다. 우리는 토큰별로 기록된 이러한 신뢰도를 오디오나 라디오 신호의 맥락에서 하나의 신호로 간주하고, 스펙트럼 분석 및 갑작스러운 변화를 탐지하기 위한 통계적 검정 등 표준 신호처리 도구를 활용해 이 방법을 검토하였다. 우리는 다음과 같은 문제들로부터 각각 500개의 문제에 대해 16개의 체인을 샘플링했다.
arXiv:2610.31981v1 발표 유형: 신규 초록: 가장 간단한 비유클리드 다양체인 1차원 평탄 원환면에서, 데이터 분포로부터 표본을 밀어내는 속도장에 의해 리만 기하학적 흐름 일치의 최근 제안된 확장이 전역적으로 최적화되는 분포를 제시한다. 우리는 이러한 실패 모드를 ‘호환성’이라고 부르는 성질로 추적하며, 우도 기반 흐름 일치 목적함수가 호환성이란, 그 인구 최소화자가 데이터와 결합에 의해 유도되는 주변 속도장을 복원할 수 있을 때를 의미한다. 우리는 호환성을 위한 일반적인 조건을 제시하고 이를 기존 방법들에 적용한 뒤, 호환성 하에서 소멸하는 잔여 성분의 관점에서 최악의 오차를 상한으로 규제한다. 다음으로, 기존의 호환 가능한 목적함수들은 컴팩트 다양체에서는 실현 불가능한 속도들에 대해 밀도를 부여한다는 점을 지적한다.
arXiv:2610.31894v1 발표 유형: 신규 요약: 최근의 희소 자동부호기(SAE)는 대규모 언어 모델(LLM)의 표현을 해석 가능한 특징으로 분해하여, 인코딩된 지식을 정밀하게 읽어내고 제어할 수 있도록 합니다. 그러나 기존 SAE는 각 특징을 독립적인 단위로 취급하는 반면, 실제 세계의 지식은 종종 계층적으로 분류되어 있습니다. 그 결과, 읽어내기 과정에서는 분류학적 일관성이 보장되지 않으며, 제어 또한 수정 범위를 구체적으로 지정할 만큼 세분화되지 못합니다. 이에 우리는 TaxoSAE를 제안합니다. TaxoSAE는 is-a(상위-하위 관계)를 기반으로 한 분류학적 정보를 SAE의 특징 공간에 명시적으로 인코딩합니다. TaxoSAE는 각 분류 수준마다 하나씩 구성된 여러 개의 SAE로 이루어진 계층적 구조를 모사하며, 특정 개념이 활성화될 때마다 해당 개념이 작동하도록 학습시키는 분류학적 정렬 손실을 도입합니다.
