본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

스포크, 링이 아니다: 언어 모델의 주중 다양체 재검토

arXiv:2610.37796v1 발표 유형: 신규 초록: 최근 연구에서는 대규모 언어 모델이 특정 개념을 단일 방향이 아닌 다차원적 다양체로 표현할 수 있다고 가정해 왔습니다. 이러한 다양체를 활용하여 표현을 해석하거나 조정하는 과정에서는, 일반적으로 다양체를 따라 이동하는 것이 표현된 개념에 대한 연속적인 변화와 일치한다고 여겨집니다. 본 연구에서는 이러한 연속적 다양체 가정을 전형적인 주중 다양체에 대해 검증합니다. 주목할 만한 원형 기하학에도 불구하고, 우리는 주중 표현들이 연속적인 링이라기보다는 원형으로 배열된 일곱 개의 분리된 상태와 더 유사하다는 점을 발견했습니다. 첫째, 국소적 민감도가 요일에 맞춰 일곱 개의 최소점을 가지며, 이는 다양체 내 조정 하에서 표현과 행동 간의 계단식 매핑을 생성함을 보여줍니다. 둘째, w

진행 상황 및 관련 보도

토큰 신뢰도는 과연 체인 길이에 불과한가? 추론 흔적에 대한 신호처리 분석

arXiv:2610.36709v1 발표 유형: 신규 초록: 추론 언어 모델은 수학 문제를 풀 때 긴 사고 체인을 작성하며, 문제당 여러 개의 체인을 샘플링한 뒤 다수결을 통해 정답을 도출하면 생성된 텍스트의 양이 크게 증가하는 대신 정확도가 향상된다. 이 비용을 줄이는 인기 있는 방법으로는, 모델이 각 토큰을 작성할 때 갖는 신뢰도를 기준으로 각 체인을 점수화하는 방식이 있다. 여기서 토큰은 단어 또는 단어의 일부를 의미한다. 이 방법에서는 2048개의 토큰으로 구성된 이동 평균 창을 사용해 해당 신뢰도를 평균화하고, 가장 낮은 평균값을 기준으로 체인을 유지하거나 중단한다. 우리는 토큰별로 기록된 이러한 신뢰도를 오디오나 라디오 신호의 맥락에서 하나의 신호로 간주하고, 스펙트럼 분석 및 갑작스러운 변화를 탐지하기 위한 통계적 검정 등 표준 신호처리 도구를 활용해 이 방법을 검토하였다. 우리는 다음과 같은 문제들로부터 각각 500개의 문제에 대해 16개의 체인을 샘플링했다.

진행 상황 및 관련 보도

다양체 위의 흐름 매칭을 위한 호환 가능성

arXiv:2610.31981v1 발표 유형: 신규 초록: 가장 간단한 비유클리드 다양체인 1차원 평탄 원환면에서, 데이터 분포로부터 표본을 밀어내는 속도장에 의해 리만 기하학적 흐름 일치의 최근 제안된 확장이 전역적으로 최적화되는 분포를 제시한다. 우리는 이러한 실패 모드를 ‘호환성’이라고 부르는 성질로 추적하며, 우도 기반 흐름 일치 목적함수가 호환성이란, 그 인구 최소화자가 데이터와 결합에 의해 유도되는 주변 속도장을 복원할 수 있을 때를 의미한다. 우리는 호환성을 위한 일반적인 조건을 제시하고 이를 기존 방법들에 적용한 뒤, 호환성 하에서 소멸하는 잔여 성분의 관점에서 최악의 오차를 상한으로 규제한다. 다음으로, 기존의 호환 가능한 목적함수들은 컴팩트 다양체에서는 실현 불가능한 속도들에 대해 밀도를 부여한다는 점을 지적한다.

新闻源配图 · arXiv cs.LG
진행 상황 및 관련 보도

LooseLeaf: 컴퓨팅 노트북을 위한 서버리스 GPU 지원

arXiv:2610.33275v1 발표 유형: 신규 초록: 컴퓨팅 노트북은 세션 전체 동안 GPU를 할당하지만, GPU는 셀이 실행되는 동안에만 계산을 수행하고 그 외에는 대기 상태로 남아 있습니다. 서버리스 실행 방식에서는 셀 간에 GPU를 해제할 수 있지만, 새로 생성된 워커에서 누적된 노트북 상태를 다시 구축하는 과정은 각 GPU 셀마다 상당한 비용을 초래합니다. 본 논문에서는 대화형 노트북을 위한 서버리스 GPU 플랫폼인 LooseLeaf를 제안합니다. LooseLeaf는 각 셀의 상태와 import 클로저를 추출하며, 해당 셀이 필요로 하는 최소한의 변수와 패키지를 파악합니다. 실제 세계의 노트북 5,000개를 대상으로 한 분석 결과, 이러한 클로저는 크기가 작으며, 사용자가 셀을 편집하는 데에도 이를 준비하는 데 몇 초밖에 걸리지 않는 것으로 나타났습니다. LooseLeaf는 사용자가 셀을 편집하는 동안 이러한 클로저를 포함한 GPU 워커를 미리 준비합니다. 실행 후, 워커는…

新闻源配图 · arXiv cs.DC
진행 상황 및 관련 보도

PhaseBreak: 무단 이미지-비디오 애니메이션에 대한 선제적 시간적 보호

arXiv:2610.33070v1 발표 유형: 신규 초록: 이미지-비디오(I2V) 확산 모델은 단일 인물 사진이나 이미지를 애니메이션화하여, 주체의 허가 없이 공유된 이미지를 움직임 합성에 재사용할 수 있도록 합니다. 우리는 이러한 용도에 대비한 선제적 시각적 보호를 연구합니다: 이미지가 공개되기 전에 소유자는 공유 워크플로우는 유지하되 하위 단계의 움직임 생성을 방해하는 제한된 변동을 적용합니다. 기존의 스펙트럼 교란 목적은 시간적 표현을 전반적으로 감쇠시키므로, 미세하거나 공간적으로 국부화된 움직임에 대해서는 제한된 통제만 가능합니다. 우리의 핵심 아이디어는 생성된 동작이 시간적 특징의 강도뿐만 아니라, 특징 이벤트가 발생하는 순서에도 의존한다는 점입니다. 우리는 PhaseBreak라는 화이트박스 스펙트럼 리타이밍 보호 기법을 제안합니다.

진행 상황 및 관련 보도

TaxoSAE: 분류학적 논리를 통한 희소 자동부호기의 재고

arXiv:2610.31894v1 발표 유형: 신규 요약: 최근의 희소 자동부호기(SAE)는 대규모 언어 모델(LLM)의 표현을 해석 가능한 특징으로 분해하여, 인코딩된 지식을 정밀하게 읽어내고 제어할 수 있도록 합니다. 그러나 기존 SAE는 각 특징을 독립적인 단위로 취급하는 반면, 실제 세계의 지식은 종종 계층적으로 분류되어 있습니다. 그 결과, 읽어내기 과정에서는 분류학적 일관성이 보장되지 않으며, 제어 또한 수정 범위를 구체적으로 지정할 만큼 세분화되지 못합니다. 이에 우리는 TaxoSAE를 제안합니다. TaxoSAE는 is-a(상위-하위 관계)를 기반으로 한 분류학적 정보를 SAE의 특징 공간에 명시적으로 인코딩합니다. TaxoSAE는 각 분류 수준마다 하나씩 구성된 여러 개의 SAE로 이루어진 계층적 구조를 모사하며, 특정 개념이 활성화될 때마다 해당 개념이 작동하도록 학습시키는 분류학적 정렬 손실을 도입합니다.

진행 상황 및 관련 보도

PnP*: 퍼스펙티브-n-포인트를 위한 인증 가능한 해법

arXiv:2610.31797v1 발표 유형: 신규 초록: 3D-2D 대응 관계로부터 카메라 자세를 추정하는 문제, 즉 퍼스펙티브-n-포인트는 컴퓨터 비전 분야에서 가장 근본적인 문제 중 하나입니다. 기존 방법들은 대부분 최소 문제를 해결하거나 목적함수를 보다 간단한 형태로 대체해 왔습니다. 놀랍게도, 실제 최대우도추정(MLE)을 위한 확장성이 있는 인증 가능한 해법은 아직 존재하지 않습니다. 우리는 효율적인 계산을 보장하고 인증 가능한 전역 최적해를 제공하는 최초의 실용적 해법인 PnP*를 제안합니다. 또한, 우리 연구에 따르면 중간 정도의 노이즈 하에서도 기본적인 볼록 완화가 정확하다는 것을 증명했으며, 이는 현재까지 알려진 바에 따르면 PnP의 MLE를 위한 어떠한 완화 방식에 대해서도 적용된 최초의 안정성 보장입니다. 더 나아가, 우리는 화순 구조의 특성을 활용하고 몫환 축약 등을 통해 완화 과정을 더욱 단순화했습니다.

PnP*: A certifiable solver for Perspective-n-Point
진행 상황 및 관련 보도