본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

저랭크 다중선형 분해를 통한 LLM 환각 탐지

arXiv:2610.36191v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)은 흔히 유창하지만 사실과는 맞지 않는 응답을 생성하여 그 신뢰성에 대한 우려를 불러일으킵니다. 최근의 환각 탐지기들은 점점 더 내부 표현을 활용하고 있지만, 고차원의 숨은 상태에서 유의미한 신호를 추출하는 것은 여전히 어려운 과제입니다. 기존 접근법들은 종종 선택된 활성화 값이나 풀링 기반 압축에 의존하는데, 이로 인해 트랜스포머 계층, 특징 모드 및 토큰 전반에 걸쳐 분산된 판별적 정보를 놓칠 수 있습니다. 우리는 LOTUS(Low-rank Order-statistic TUcker-based Subspace learning)를 제안합니다. 이는 환각 탐지를 위한 다중선형 저랭크 분해 프레임워크로서, LLM의 숨은 상태로부터 컴팩트한 표현을 추출하면서도 레이블에 대한 의존성을 줄여줍니다.

진행 상황 및 관련 보도

토큰 신뢰도는 과연 체인 길이에 불과한가? 추론 흔적에 대한 신호처리 분석

arXiv:2610.36709v1 발표 유형: 신규 초록: 추론 언어 모델은 수학 문제를 풀 때 긴 사고 체인을 작성하며, 문제당 여러 개의 체인을 샘플링한 뒤 다수결을 통해 정답을 도출하면 생성된 텍스트의 양이 크게 증가하는 대신 정확도가 향상된다. 이 비용을 줄이는 인기 있는 방법으로는, 모델이 각 토큰을 작성할 때 갖는 신뢰도를 기준으로 각 체인을 점수화하는 방식이 있다. 여기서 토큰은 단어 또는 단어의 일부를 의미한다. 이 방법에서는 2048개의 토큰으로 구성된 이동 평균 창을 사용해 해당 신뢰도를 평균화하고, 가장 낮은 평균값을 기준으로 체인을 유지하거나 중단한다. 우리는 토큰별로 기록된 이러한 신뢰도를 오디오나 라디오 신호의 맥락에서 하나의 신호로 간주하고, 스펙트럼 분석 및 갑작스러운 변화를 탐지하기 위한 통계적 검정 등 표준 신호처리 도구를 활용해 이 방법을 검토하였다. 우리는 다음과 같은 문제들로부터 각각 500개의 문제에 대해 16개의 체인을 샘플링했다.

진행 상황 및 관련 보도

EKT-라우터: 신체화된 비전-언어 모델을 위한 전문가-증거 정합

arXiv:2610.33044v1 발표 유형: 신규 초록: 체화된 시각-언어 모델은 부분적이고 변화하는 관찰로부터 제시된 질문에 답해야 한다. 이들의 성공 여부는 선택된 추론 능력과 해당 모델이 활용할 수 있는 증거 양 측면에 모두 달려 있다. 전문 라우터는 내부 계산을 조정하는 반면, 도구를 보강한 시스템은 외부 증거를 확보한다; 두 가지 접근 방식을 독립적으로 선택하면 적합한 전문가가 필요한 증거를 갖추지 못하는 상황이 발생할 수 있다. 우리는 EKT-Router를 제안하며, 이는 능력 전문가, 선택적 지식, 그리고 인지 도구를 함께 선택하는 제한된 프레임워크이다. 결과 기반 서명은 일반적 전문가, 공간 추론 전문가, 그리고 시공간 전문가의 중복되는 강점을 나타낸다. 공동 효용 함수는 호출 예산 하에서 완전한 전문가-증거 경로를 평가한다. 수집 후, 패킷 검증기는 유효한 것을 인정한다

新闻源配图 · arXiv cs.CV
진행 상황 및 관련 보도

상태 공간 인코딩을 이용한 선형 시간 컨텍스트 압축

arXiv:2610.33006v1 발표 유형: 신규 초록: 트랜스포머 기반 대규모 언어 모델(LLM)은 컨텍스트 크기가 증가함에 따라 상당한 연산 및 메모리 비용을 수반하므로, 추론 전에 컨텍스트를 더 짧은 표현으로 압축하는 방법이 필요합니다. 기존의 소프트 프롬프트 압축 방식은 일반적으로 목표 모델과 동일한 트랜스포머 백본을 사용하며, 압축된 표현을 생성하는 과정에서 상당한 지연 오버헤드가 발생합니다. 이로 인해 이러한 방식은 컨텍스트를 한 번 압축한 뒤 여러 쿼리에 걸쳐 재사용하는 오프라인 환경에만 제한됩니다. 우리는 Mamba 상태공간 모델(SSM)을 기반으로 한 플러그 앤 플레이형 온라인 컨텍스트 압축기인 Boa Compressor를 제안합니다. 이 압축기는 임의 길이의 컨텍스트를 단일 선형 시간 패스로 인코딩하여, 그 결과 얻은 표현을 바탕으로 우리가 조건부…

진행 상황 및 관련 보도

증거를 통한 직관: 다중 모달 에이전트를 위한 적응형 이중 메모리

arXiv:2610.33019v1 발표 유형: 신규 초록: 다중 모달 에이전트가 지속적인 상호작용을 수행할 때, 장기 기억은 세부적 증거 회수와 전반적 이해를 위한 내재화된 해석이라는 두 가지 서로 다르지만 상호 보완적인 기능을 수행한다. 비록 일화 기억과 잠재 기억이 각각 명시적 역사 기록과 내재화된 경험을 통해 이러한 요구를 충족하긴 하지만, 일화 기억의 증거 범위와 통합에 대한 한계, 그리고 잠재 기억의 사실적 근거 마련에 대한 한계로 인해, 어느 한 패러다임만으로는 과제 간의 다양한 기억 특성들을 모두 포괄하기 어렵다. 이러한 격차를 해소하기 위해 우리는 모델 고유의 잠재 기억을 직관적인 사전으로 활용하고, 검색 조건에 따라 공동 정렬을 통해 정확한 증거 재구성을 가능하게 하는 다중 인덱스 기반 일화 기억을 결합한 이중 기억 프레임워크를 제안한다. At i

新闻源配图 · arXiv cs.CV
진행 상황 및 관련 보도

트랜스포머 이론을 시험에 들이기

arXiv:2610.32104v1 발표 유형: 신규 초록: 변환기 아키텍처의 능력과 한계를 규명하기 위해 여러 가지 형식적 이론들이 개발되어 왔으며, 각 이론은 아키텍처의 서로 다른 특징을 포착하는 다양한 추상화 방식을 사용한다. 이러한 이론들은 기본 가정과 개념적 틀의 차이로 인해, 변환기가 어떤 과제를 쉽게 또는 어렵게 여길지에 대한 예측에서 서로 상충될 수 있다. 우리는 변환기 능력에 관한 일곱 가지 이론(Star-free, $\mathsf{AC}^0$, $\mathsf{TC}^0$, C-RASP, MPC, BAPO, 그리고 Sensitivity)을 정리하고, 이를 다양한 계산 구조를 포괄하는 여러 과제 세트에 걸쳐 공통적인 예측 매트릭스로 변환하였다. 또한 이 매트릭스를 완성하기 위한 새로운 이론적 결과를 제시한다. 이후 우리는 이론적…

진행 상황 및 관련 보도

듀얼페이스: LLM 서비스를 위한 분리형 스케줄링 및 협력적 GPU–CPU 디코딩

arXiv:2610.33501v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM) 서비스는 추론 처리량을 높이기 위해 배치 처리에 의존하지만, 키-값(KV) 캐시는 시퀀스 길이와 함께 증가하여 GPU 상주 동시성을 제한한다. CPU 오프로드를 통해 호스트 메모리를 활용하면 KV 용량을 확장할 수 있지만, 기존 시스템은 여전히 대부분 GPU 중심으로 작동한다: CPU 상주 요청은 GPU 스케줄러가 적절한 겹침 기회를 제공할 때에만 진행된다. 그 결과, 호스트 메모리와 CPU 연산은 독립적인 서비스 자원으로 작용하지 못하며, 이로 인해 부하 하에서 CPU 측 진행이 간헐적으로 발생하고 꼬리 부분의 토큰 간 지연(ITL)이 부풀어 오르게 된다. 우리는 호스트를 독립적으로 스케줄링되는 디코딩 엔진으로 전환하는 LLM 서비스 런타임인 DualPace를 제안한다. DualPace는 두 개의 엔진 간에 스케줄링 권한을 분리한다: GPU 엔진

진행 상황 및 관련 보도

PhaseBreak: 무단 이미지-비디오 애니메이션에 대한 선제적 시간적 보호

arXiv:2610.33070v1 발표 유형: 신규 초록: 이미지-비디오(I2V) 확산 모델은 단일 인물 사진이나 이미지를 애니메이션화하여, 주체의 허가 없이 공유된 이미지를 움직임 합성에 재사용할 수 있도록 합니다. 우리는 이러한 용도에 대비한 선제적 시각적 보호를 연구합니다: 이미지가 공개되기 전에 소유자는 공유 워크플로우는 유지하되 하위 단계의 움직임 생성을 방해하는 제한된 변동을 적용합니다. 기존의 스펙트럼 교란 목적은 시간적 표현을 전반적으로 감쇠시키므로, 미세하거나 공간적으로 국부화된 움직임에 대해서는 제한된 통제만 가능합니다. 우리의 핵심 아이디어는 생성된 동작이 시간적 특징의 강도뿐만 아니라, 특징 이벤트가 발생하는 순서에도 의존한다는 점입니다. 우리는 PhaseBreak라는 화이트박스 스펙트럼 리타이밍 보호 기법을 제안합니다.

진행 상황 및 관련 보도

매개변수형 세션 상태는 기록을 다시 재생하지 않고도 검색 의도를 복구합니다

arXiv:2610.33047v1 발표 유형: 신규 요약: 장기간 작동하는 어시스턴트는 종종 여러 번의 대화 전에 설정된 지시사항, 제약 조건 및 현재 목표를 포함한 후속 요청을 해석합니다. 따라서 핵심 과제는 단순히 문맥 길이가 아니라 검색 의도입니다. 예를 들어, “이전 구성 사용”과 같은 현재 쿼리는 관련 증거를 찾는 데 필요한 프로젝트, 엔터티, 버전 등의 용어를 생략할 수 있습니다. 장기 문맥 모델은 대화 기록을 재생하여 이러한 용어를 복구할 수 있지만, 반복적으로 이전 대화를 처리하는 비용을 부담해야 합니다. 기존의 검색 강화 생성(RAG) 방식은 비용이 더 저렴하지만, 정보가 충분한 쿼리라는 전제를 가집니다. 대화형 재작성 방식은 기록을 다시 읽거나 명시적으로 유지되는 텍스트 메모리에 의존합니다. 우리는 \emph{매개변수형 세션 상태}를 도입합니다

진행 상황 및 관련 보도

DirCast: 단일 스트리밍 비디오 언어 모델을 활용한 실시간 e스포츠 연출 및 해설

arXiv:2610.31734v1 발표 유형: 신규 초록: 실시간 e스포츠 중계에서는 매초마다 다음 장면을 예측하지 못한 채, 어떤 카메라를 송출할지 결정하는 디렉터와 그 선택에 대해 해설하는 캐스터가 필요합니다. 기존의 스트리밍 비디오 언어 모델은 이미 인간 디렉터가 제작한 방송에 대해서만 해설하는 능력을 학습해 왔습니다. 우리는 이러한 상황에서, 모든 선수의 원시 카메라 영상을 입력으로 받아, 과거 정보만을 바탕으로 동시에 연출과 해설을 수행해야 하는 실시간 방송 제작 환경을 연구합니다. 이에 따라, 두 가지 역할을 모두 수행하는 단일 스트리밍 비디오 언어 모델인 DirCast를 제안합니다. DirCast는 매초마다 모든 카메라 영상을 저해상도로 스캔하고, 유지 또는 전환 여부를 결정하는 디렉터 모드를 통해 언제 어디서 컷을 할지 판단한 뒤, 선택된 카메라 영상을 고해상도로 읽어들여 해설을 시작합니다. 또한, 모델의 문맥은 현재 송출된 내용과

DirCast: Live Esports Directing and Commentary with a Single Streaming Video-Language Model
진행 상황 및 관련 보도

문맥 내 의존성 파싱을 위한 POS 서명 시연 검색

arXiv:2610.31966v1 발표 유형: 신규 요약: 문맥 내 학습을 위한 시연은 종종 의미적 유사성을 기준으로 검색되며, 이는 구조화된 예측에서의 관련성을 제대로 대표하지 못할 수 있습니다. 우리는 Universal Dependencies 파싱을 위한 시연 선택 방식을 연구하며, 품사 통계를 가중치로 표현하고 라벨링된 교육 세트에서 길이가 호환되는 골드 라벨 해석 사례 3개를 검색하는 POS 서명 정책을 적용합니다. 우리는 미세조정 없이 두 개의 오픈 웨이트 언어 모델을 UD 영어 웹 트리뱅크 테스트 세트의 총 2,077개 문장에 대해 평가하며, 해당 정책을 샷 및 형식이 일치하는 고정 및 의미적 3샷 기반과 비교하고, 또한 제로샷, 사고 체인, 비평-정제 시스템과도 비교합니다. POS 서명 검색은 가장 높은 라벨링 성과를 달성합니다.

진행 상황 및 관련 보도

트레이드오프를 고려한 영역 설계: 기업 고객-영업사원 배정을 위한 다목적 의사결정 시스템

arXiv:2610.31701v1 발표 유형: 신규 초록: 기업 고객의 구매 여정은 제품 경험과 마케팅뿐만 아니라 반복적인 자원 할당 결정에 의해 형성된다. B2B 시장 진출(GTM) 조직에서는 영역 설정이 어떤 계정에 영업사원의 영업 범위가 제공되는지, 어떤 영업사원-계정 관계가 유지되는지, 그리고 제한된 영업 인력의 역량이 어떻게 배분되는지를 결정한다. 그러나 이 과정은 종종 수동으로 이루어져, 기회 비교, 가치 지속성 평가, 성장, 균형, 역량 및 실행 가능성 간의 트레이드오프를 검토하기 어렵다. 우리는 기업 GTM 계획에서 트레이드오프를 고려한 고객-영업사원 배정을 위한 실용적인 의사결정 시스템을 제안한다. 이 시스템은 세 가지 구성 요소를 통합한다: 예측 신호를 결합하여 점수를 매기는 다차원 계정 가치 레이어와

Tradeoff-Aware Territory Design: A Multi-Objective Decision System for Enterprise Customer-to-Seller Allocation
진행 상황 및 관련 보도

실내 무선 지도 추정을 위한 협력적 인컨텍스트 학습

arXiv:2610.31702v1 발표 유형: 신규 초록: 실내 무선 지도 추정(RME)은 커버리지 계획, 위치 파악, 네트워크 배치 등 무선 응용 분야에서 필수적입니다. 그러나 기존 방법의 대부분은 비용이 많이 드는 라벨링된 데이터와 작업별 모델 학습을 요구하는 지도학습 패러다임을 따릅니다. 또한 실내 환경에는 건물 구조나 배치와 같은 개인정보에 민감한 정보가 포함되어 있어 이를 중앙 집중화하기 어려운 경우가 많습니다. 이러한 도전 과제를 해결하기 위해 우리는 실내 RME를 협력적 인컨텍스트 학습(ICL) 문제로 처음으로 정식화하고자 합니다. 우리는 다수의 클라이언트가 모델 업데이트 없이 대규모 자동회귀 시각 모델(LAVMs)을 활용해 ICL을 수행하는 프레임워크인 폴리-리플을 제안합니다. 각 클라이언트는 자신의 개인적인 시연 데이터를 통해 프롬프트를 받습니다.

Collaborative In-Context Learning for Indoor Radio Map Estimation
진행 상황 및 관련 보도

대규모 언어 모델 기반 에이전트의 행동 분석

arXiv:2610.32087v1 발표 유형: 신규 초록: 언어-에이전트의 행동을 이해하려면, 행동이 경로 전반에 걸쳐 어떻게 구성되는지와 이러한 구성이 맥락 및 결과와 어떤 관계를 맺는지를 파악해야 합니다. 우리는 데이터 기반 행동 발견과 분석 및 실험적 조사를 연결하는 일반적인 프레임워크를 제안합니다. 기록된 활동에서 도출된 범주는 무엇을 측정할지를 정의합니다. 분석은 행동들이 과정 내에서 차지하는 위치를 유지하고, 그 관계를 해석 가능한 가설로 표현합니다. 보류된 맥락에서의 통계적 평가와 검증을 통해 증거의 강도와 범위를 검토합니다. 이후 프롬프트 조정을 포함한 실험을 통해, 의도적으로 변화시킨 조건 하에서 행동과 결과가 어떻게 달라지는지를 확인합니다. 반복적 자기성찰에 대한 연구는 어떻게

진행 상황 및 관련 보도

IQuest-Q1: 에이전트형 CLI 시스템을 위한 기반 모델 역량 강화

arXiv:2610.30949v1 발표 유형: 신규 요약: 우리는 총 320B 파라미터(활성화된 파라미터는 15B)를 갖춘 희소 혼합전문가(MoE) 기반의 에이전트형 기반 모델인 IQuest-Q1을 제시합니다. IQuest-Q1은 세 단계의 프로세스를 통해 개발되었습니다: (1) 안정적이고 효율적인 사전 학습으로, 스테이블 스플릿노름, Muon 및 muP를 두 단계 커리큘럼과 결합하며, 두 번째 단계에서는 코딩 데이터 혼합 비율을 높여 안전한 학습률과 최적 학습률 간의 넓은 안정성 여유를 유지합니다; (2) 세밀한 중간 학습 단계에서는 도메인과 형식 전반에 걸쳐 데이터 혼합을 확대하고 문맥 범위를 점진적으로 확장합니다; 그리고 (3) 다중 스캐폴드와 다중 버전 사후 학습을 통해 SFT, 도메인 특화 RL, MOPD 등을 다양한 스캐폴드에서 결합하여 상호 보완적인 학습 신호를 통합하고 에이전트형 코딩 역량을 강화합니다.

IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems
진행 상황 및 관련 보도