제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
arXiv:2610.37881v1 발표 유형: 신규 초록: 딥페이크 탐지 모델은 전반적인 정확도는 높지만, 인구통계학적 집단 간 성능 격차가 크기 때문에 일부 집단에서는 다른 집단에 비해 훨씬 높은 거짓양성률을 경험하게 됩니다. 기존의 공정성 지향 방법들은 모델 출력을 제한하여 집단별 예측을 균등화하는 방식으로 이 문제를 해결하려 하지만, 근본적인 특징 수준의 편향에는 대응하지 못합니다. 그 결과, 모델들이 여전히 피부 질감과 같은 인구통계학적 특성을 조작된 콘텐츠를 탐지하는 간접적 단서로 활용할 수 있는 상황이 발생합니다. 이러한 문제를 해결하기 위해 우리는 모델 출력만을 조정하는 것이 아니라 특징 학습 자체를 개선하는 프레임워크인 교차적 불변 학습(IIL)을 제안합니다. IIL은 가장 어려운 인구통계학적 하위 집단을 식별하는 과정을 반복적으로 수행하며
arXiv:2610.37867v1 발표 유형: 신규 초록: 음식 유사성은 검색, 추천, 대체 등 다양한 음식 컴퓨팅 작업의 기반이 되지만, 일반적으로 음식 표현은 동일성 유지 여부를 기준으로 평가된다. 우리는 동일성 외에 음식 유사성이 어떻게 변화하는지에 대해 질문한다: 서로 다른 시각적 표현들이 음식들을 관계적 이웃으로 어떻게 정렬하며, 이러한 이웃이 어떤 요리적 관계를 드러내거나 숨기는지, 그리고 이러한 구조가 여러 표현들 간에 얼마나 일관되게 나타나는지를 살펴본다. 인도 요리는 시각적으로 유사한 음식들이 서로 다른 요리적 정체성을 가질 수 있는 동시에, 하나의 요리 계통 내에서도 외형이 크게 다를 수 있는 도전적인 환경을 제공한다. 확장된 Khana 데이터셋과 컨볼루션, 트랜스포머를 아우르는 일곱 가지 사전 훈련된 시각적 표현을 활용하여
arXiv:2610.37905v1 발표 유형: 신규 초록: SEC EDGAR와 같은 공시 저장소는 기업 공시에 대한 웹 접근을 통해 정보에 기반한 투자를 지원합니다. 이러한 문서의 검토를 언어 모델 기반 에이전트로 지원하려면, 관련 문서들 간의 미표명된 결함을 발견하고, 누락된 회사 정보를 확보하며, 요청된 수정 사항이 증거에 근거한 요구사항을 충족하는지 검증해야 합니다. 기존의 재무 관련 질문-답변 평가는 이러한 상호작용 능력에 대해 제한적인 근거만 제공합니다. 우리는 기업 공시 검토 및 수정을 위한 대화형 벤치마크이자 자체 진화형 에이전트 프레임워크인 \textbf{FilingLoop}을 소개합니다. FilingLoop은 미국 증권거래위원회의 역사적 서신을 바탕으로, 96개 기업의 주로 IPO 검토 과제 380개를 재구성합니다.
arXiv:2610.37682v1 발표 유형: 신규 초록: 리스트와이즈 선호도 피드백은 쌍대비교보다 대규모 언어 모델(LLMs) 정렬을 위한 더 풍부한 감독 정보를 제공하지만, 전체 순위는 더욱 민감한 사용자 선호까지 드러냅니다. 기존의 개인정보 보호형 정렬 방법들은 주로 쌍대비교 피드백에 집중해 왔으며, 로컬 차분적 개인 정보 보호(LDP) 하에서의 리스트와이즈 정렬은 아직 미탐구 상태입니다. LDP를 이러한 리스트와이즈 영역으로 확장하는 데에는 중대한 과제가 따릅니다: 전체 순위 공간의 높은 민감성으로 인해 과도한 노이즈가 발생하여 리스트와이즈 감독의 이점이 무력화될 수 있기 때문입니다. 이 문제를 해결하기 위해 우리는 하위 단계 학습에서 감독의 세분화 정도와 개인정보 보호 노이즈 간의 상호작용을 분석하고, 리스트와이즈 선호도를 개인화하는 랭크 인식 지수 메커니즘을 도입합니다.
arXiv:2610.37679v1 발표 유형: 신규 요약: 도구를 사용하는 언어 에이전트는 간접적인 프롬프트 주입에 취약하며, 점점 늘어나는 연구들은 모델 내부를 분석하여 안전하지 않은 행동이 실행되기 전에 이를 포착하려고 시도하고 있지만, 그 결과는 매우 상반됩니다. 우리는 이러한 갈등의 대부분이 평가 과정에서 발생하는 오류 때문이라고 주장하며, 평가와 학습 집단 모두에서 주입 노출과 행동적 약속을 분리하는 이중 계층화 프로토콜을 제안합니다. 주요 Qwen AgentDojo 그리드에서, 무지한 상태로 불안전한 행동과 나머지 행동을 혼합한 대조를 기반으로 학습된 모니터들은 대부분 노출을 인식하는 방식으로 학습됩니다. 즉, 에이전트가 실제로 행동을 따르든 아니든 노출된 경로를 표시하며, 어떤 경우에 안전하지 않은 행동으로 이어지는지 거의 예측하지 못합니다. 노출된 사례들만을 대상으로 재학습한 동일한 탐지 계열은 모델 자체가 수행하는 안전하지 않은 도구 호출을 최대 2초 전까지 예측할 수 있습니다.
arXiv:2610.37680v1 발표 유형: 신규 요약: 프런티어 모델과 소형 언어 모델 간의 격차를 해소하는 일반적인 접근법은 증류입니다. 즉, 소형 모델(학생)을 프런티어 모델(교사)의 출력에 대해 미세 조정함으로써 이전 작업을 학습 계산에 의존하게 만들고, 전달된 지식을 상당히 불투명하게 만듭니다. 우리는 아트팩트 증류를 제안합니다. 교사가 학습 사례를 해결하고 그 문제 해결 절차를 외부화하여 아트팩트 은행으로 저장하며, 학생은 추론 시 해당 은행을 조회합니다. 이 과정에서는 파라미터 업데이트가 전혀 발생하지 않습니다. 네 가지 LiveBench 과제에서, Claude Opus 4.5가 작성한 은행을 사용하면 Claude Haiku 4.5는 공간 추론에서 무보조 Claude Sonnet 4.5보다 60%의 비용으로 더 높은 점수(0.707 대 0.647)를 기록하며, 테이블 조인에서도 Sonnet 4.5 수준에 도달하는데 그 비용은 89%에 불과합니다. 동일한 원시 은행은
arXiv:2610.37788v1 발표 유형: 신규 초록: 언어 모델 기반 비서는 사용자가 잘못된 답변을 제시하면 때때로 올바른 답변을 수정하기도 한다. 이러한 행동은 ‘아첨’으로 불리며, 일반적으로 선호 기반 사후 학습에 기인한다고 여겨지지만, 초기 측정에서는 사전 훈련된 모델에서도 발견되었다. 우리는 이 현상이 어디에서 발생하는지 파악하기 위해 학습의 모든 가능한 단계에서 이를 측정하였다: 기본 모델부터 감독 학습, 선호도 최적화를 거쳐 출시에 이르기까지, 5개 계열의 오픈 체크포인트 13개를 대상으로 분석했다. 또한, 주입된 주장이 모델의 답변을 얼마나 변화시키는지와 답변이 얼마나 견고하게 유지되었는지를 구분하고, 주장의 주체와 그 신뢰도, 그리고 주장의 강도를 다양하게 설정하여 실험을 진행했다. 그 결과, 서로 다른 기원을 가진 두 가지 아첨 행동이 나타났으며, 이 두 행동 모두 다양한 데이터셋에서 재현되었다. 주장에 대한 복종은 i
arXiv:2610.37819v1 발표 유형: 신규 초록: 양자 기계 학습(QML)은 의료 분류 작업에서 점점 더 활발히 탐구되고 있지만, 하위 집단을 고려한 공정성 기준 하에서의 성과는 아직 충분히 연구되지 않았다. 우리는 QML이 본질적으로 공정하지 않다는 가정 하에, 의료 영상 분석을 위한 클래식 및 양자 분류기의 실증적 공정성 감사를 제시한다. 두 가지 시나리오를 평가하며, DDI 데이터를 이용한 피부병변 분석(민감 속성: 피츠패트릭 피부 타입)과 CheXpert에서 파생된 데이터를 활용한 흉부 X선 이미지 분석(민감 속성: 연령대)을 포함한다. ResNet-18 임베딩을 사용하여, 기본 설정과 세 가지 완화 조치 설정—미분 가능한 Equalized Odds (EO) 정규화, Gradient Reversal Learning (GRL), 그리고 이 두 가지를 결합한 방식—하에 SVM, MLP, QSVM 및 QCNN을 학습시킨다. 또한 기초 모델들(PanDerm, EVA-X)은 외부 기준으로 활용된다.
arXiv:2610.37906v1 발표 유형: 신규 초록: 스파이킹 저수지 컴퓨팅은 고정된 재귀형 저수지의 학습 효율성과, 매 테이프스텝마다 밀집하여 연산을 수행하는 대신 희소한 스파이크에 의해 연산이 촉발되는 이벤트 기반 추론의 에너지 효율성을 결합한다. 그러나 기존의 스파이킹 저수지는 거의 대부분 누설 통합-화재(LIF) 뉴런에 의존하며, 이 뉴런들의 저역 통과 동역학은 서로 다른 시간 주파수로 부호화된 정보를 구분하는 능력을 제한한다. 우리는 HRF-Res를 제안하는데, 이는 LIF 뉴런을 조화 공명-화재(HRF) 뉴런의 이질적인 집단으로 대체한 액체 상태 머신이다. 이러한 뉴런들은 내재된 진동 동역학을 보이며 입력 주파수에 선택적으로 반응하여, 저수지가 주파수
arXiv:2610.39981v1 발표 유형: 신규 초록: 대규모 과학 워크플로우는 분산된 HPC 자원에서 실행되므로, 과학 데이터 산출물이 어떻게 생성되는지와 왜 동일한 워크플로우 실행에서도 매우 다른 결과가 나올 수 있는지를 설명하기가 어렵습니다. 기존 시스템은 주로 분산 워크플로우 실행 또는 퍼베넌스 관리에만 집중하며, 세밀한 수준의 퍼베넌스를 분산 과학 데이터 아티팩트의 본질적 속성으로 다루는 경우는 드뭅니다. 우리는 TRACEs(고급 컨테이너화 실행을 위한 추적 가능한 런타임)를 제안합니다. 이는 분산된 컨테이너화된 과학 워크플로우를 위한 퍼베넌스 아키텍처로서, 생성된 모든 데이터 아티팩트에 데이터 계보와 실행 컨텍스트를 직접 내장합니다. 퍼베넌스를 워크플로우 오케스트레이션과 분리함으로써, TRACEs는 아티팩트 중심의 퍼베넌스를 일반화합니다.
arXiv:2610.36083v1 발표 유형: 신규 초록: 생성형 AI의 최근 발전은 사후 학습된 금융 전용 대규모 언어 모델(LLMs)을 통해 금융 감성 분석을 크게 향상시켰습니다. 그러나 기존 접근법들은 각 기사의 감성을 개별적으로 예측하는 데에 그치고, 흑백 상자와 같은 방식으로 작동하여 맥락 이해를 제한하고 고위험 금융 의사결정에의 적용을 저해합니다. 이에 따라 우리는 FinLLM-KG를 제안합니다. 이는 모델에 독립적인 프레임워크로, 인과적 LLM과 금융 지식 그래프를 결합하여, 모델 가중치를 업데이트하지 않고도 추론 시 SEC 10-K 서류로부터 시간적 근거를 갖춘 기업 수준의 지식을 주입할 수 있도록 설계되었습니다. FinLLM-KG 내에서는 맥락이 자연어로 작성된 기업 프로필 또는 소규모 관계 집합의 형태로 제공됩니다.
arXiv:2610.36191v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)은 흔히 유창하지만 사실과는 맞지 않는 응답을 생성하여 그 신뢰성에 대한 우려를 불러일으킵니다. 최근의 환각 탐지기들은 점점 더 내부 표현을 활용하고 있지만, 고차원의 숨은 상태에서 유의미한 신호를 추출하는 것은 여전히 어려운 과제입니다. 기존 접근법들은 종종 선택된 활성화 값이나 풀링 기반 압축에 의존하는데, 이로 인해 트랜스포머 계층, 특징 모드 및 토큰 전반에 걸쳐 분산된 판별적 정보를 놓칠 수 있습니다. 우리는 LOTUS(Low-rank Order-statistic TUcker-based Subspace learning)를 제안합니다. 이는 환각 탐지를 위한 다중선형 저랭크 분해 프레임워크로서, LLM의 숨은 상태로부터 컴팩트한 표현을 추출하면서도 레이블에 대한 의존성을 줄여줍니다.
arXiv:2610.33065v1 발표 유형: 신규 초록: 두피 기록은 잡음이 많고 공간적 해상도가 낮으며 실험 조건과 피실험자 간에 변동성이 크기 때문에 EEG를 통한 시각적 해독은 여전히 어려운 과제로 남아 있습니다. 대부분의 시스템은 각 실험을 고밀도 이미지 임베딩과 정렬하지만, 이러한 임베딩은 의미적 내용과 개별 사례에 특화된 질감, 자세, 배경 등을 혼합하고 있습니다. 이는 EEG에서 제공되지 않는 세부 정보를 요구할 뿐만 아니라, 예측을 뒷받침하는 시각적 요인들에 대한 명시적인 설명도 제공하지 않습니다. 우리는 \textbf{ProtoEEG}라는 프로토타입 기반 프레임워크를 제안합니다. 이 프레임워크는 EEG와 이미지 간의 정렬 문제를 공유 가능한 학습 가능한 시각 코드북 위에서 이루어지는 소프트한 합성으로 재구성합니다. 학습 가능한 EEG 인코더와 고정된 시각 교사가 동일한 $K=64$개의 프로토타입에 대한 할당 분포를 생성하며, 이들의 가중치를 적용한 재구성 결과는 구조화된 표현을 형성합니다
arXiv:2610.32101v1 발표 유형: 신규 초록: 대규모 언어 모델(LLM)은 출력 분포가 익숙한 의미적 패턴에 집중되는 모드 붕괴 현상을 보입니다. 다양성이 사라지면, 반복적인 샘플링은 발견이 아니라 의미적 반복으로 변하게 되어 흔하지는 않지만 더 강력한 해결책들이 드러나기 어려워지고, 자가 진화와 지속적 학습을 유지하기도 어렵게 됩니다. 대부분의 해결책들은 추론 단계에서만 개입하여 샘플을 조정할 뿐, 다양성을 모델의 핵심 역량으로 만들지는 않습니다. 우리는 훈련 시점에서 다양성을 모델 내부에 내재화하는 프레임워크인 PRISM을 제안합니다. PRISM은 (i) 각 프롬프트에 대해 다양하면서도 정확한 다중 교사 솔루션을 매칭하는 부분모듈러 큐레이션과, (ii) 특수 토큰 변형을 임플로…
arXiv:2610.33017v1 발표 유형: 신규 요약: 영어 중심의 말뭉치로 학습된 다국어 토큰라이저는 종종 인도계 언어를 과도하게 세분화하여, 결과적으로 더 긴 토큰 시퀀스와 각 스크립트 간의 토큰화 격차를 초래합니다. 우리는 AdaptTok-Indic을 제안합니다. 이는 유니코드 정규화 전처리와 명시적인 인도계 결합 처리, 스크립트 인식형 라우팅, 그리고 소규모 트랜스포머 언어 모델과 함께 공동 학습된 학습 기반 바이트 수준 경계 예측을 결합한, 인도계에 특화된 적응형 토큰라이저 확장입니다. 벵골어와 힌디어를 대상으로 평가했으며, 구자라트어, 타밀어, 텔루구어에 대해서도 추가 평가를 수행한 결과, AdaptTok-Indic은 인도계 지향 토큰라이저 베이스라인인 SentencePiece BPE 및 독립적으로 구현된 MAGNET 방식 베이스라인보다 낮은 토큰 비율을 달성했습니다. 다섯 가지 기록된
arXiv:2610.32997v1 발표 유형: 신규 초록: OpenAI의 Whisper와 같은 자동 음성 인식(ASR) 모델은 음성 인식 품질을 크게 향상시켰지만, 특히 대량의 문자화된 오디오 데이터가 존재하는 경우에도 미세조정 비용이 여전히 높습니다. 이로 인해 많은 실무자들이 이러한 모델을 새로운 언어나 도메인에 맞게 적용하는 데 어려움을 겪고 있습니다. 본 연구에서는 ASR 미세조정을 위한 더 작은 교육 세트를 선택하기 위해 임베딩 기반 서브셋 선택 방법을 제안합니다. Whisper의 사전훈련된 인코더를 사용하여 각 오디오 샘플을 고정 차원의 임베딩 공간으로 매핑하고, 탐욕적 k-센터 알고리즘을 적용하여 교육 데이터에서 다양하고 대표적인 서브셋을 선별합니다. 우리는 이 접근법을 히브리어와 덴마크어 두 언어에 대해 평가한 결과, k-센터 선택 방식이 종종 …
arXiv:2610.33005v1 발표 유형: 신규 초록: 에너지 기반 모델은 도메인 특화 작업에서 유망한 성능을 보여왔지만, 범용 시나리오를 모델링하는 데는 여전히 어려움이 있습니다. 이러한 격차를 해소하기 위해 우리는 기초 언어 모델링을 위한 에너지 주도형 모델(ESM)을 설계합니다. ESM은 단일 아키텍처 내에서 에너지 주도와 토큰 생성을 통합하여, 에너지 기반 탐색을 활용해 토큰 생성을 정교화합니다. 구체적으로, ESM은 먼저 에너지 지형 위에서 잠재 상태를 최적화한 다음, 이 정제된 잠재 상태를 토큰 생성에 활용합니다. 대규모 말뭉치를 대상으로 이러한 에너지 기반 사전훈련을 수행함으로써, ESM은 유리한 토큰이 낮은 에너지 값을 갖는 일반적으로 효과적인 에너지 지형을 학습합니다. ESM의 스케일링 특성을 탐구하기 위해, 우리는 ESM을 사전훈련합니다
arXiv:2610.33063v1 발표 유형: 신규 초록: 배포된 비전 모델들은 확신이 높은 예측을 자동으로 수용하므로, 고확신 오류가 조용히 확산된다. 표준 실패 예측기인 최대 소프트맥스 확률(MSP)에는 구조적 맹점이 있다: 분류기 헤드에서 읽어오는 스칼라 값으로서, 그 확신 경사와 직교하는 특징 변동에 대해 1차적으로 무방비 상태이다. 특징 공간 탐지기들의 인자 분석을 통해, 이들이 MSP를 보완하지 못하는 이유를 설명하는 조건부 중복성 원리를 규명한다: 이들이 측정하는 클래스 분리 기하학은 이미 MSP에 내장되어 있으며, 융합 과정에서 소멸된다. 그 결과로 남는 신호는 매니폴드 외부 잔여물 위의 클래스 조건부 전형성이며, 이러한 잔여물의 분포는 백본에 따라 가우시안에 가까운 형태에서 무거운 t-분포까지 다양하게 나타난다.
arXiv:2610.32103v1 발표 유형: 신규 초록: 약물 개발에서 리드 최적화는 투과성을 높이고 독성을 낮추는 등 상충되는 특성을 개선하는 동시에, 리드의 효능을 저해할 수 있는 골격 변화를 제한해야 한다. C-MORAL과 같은 RL 기반 사후 학습은 분자 언어 모델을 미세 조정하여 관심 있는 목표에 대해 분자 리드를 직접 최적화함으로써 이러한 문제를 해결하지만, 이는 비용이 많이 드는 특정 작업용 데이터셋에 의존하며 다목적 최적화(MOO) 달성에도 어려움을 겪는다. 우리는 사전 학습된 모델이 이미 제로샷 생성으로는 효율적으로 도달하기 어려운 유용한 분자 수정 정보를 포함하고 있을 수 있다고 주장한다. 제로샷 생성의 제한된 탐색 능력에 착안하여, 우리는 효율적인 메트로폴리스-허스팅스 탐색 전략을 개발하여 베팅…
arXiv:2610.33006v1 발표 유형: 신규 초록: 트랜스포머 기반 대규모 언어 모델(LLM)은 컨텍스트 크기가 증가함에 따라 상당한 연산 및 메모리 비용을 수반하므로, 추론 전에 컨텍스트를 더 짧은 표현으로 압축하는 방법이 필요합니다. 기존의 소프트 프롬프트 압축 방식은 일반적으로 목표 모델과 동일한 트랜스포머 백본을 사용하며, 압축된 표현을 생성하는 과정에서 상당한 지연 오버헤드가 발생합니다. 이로 인해 이러한 방식은 컨텍스트를 한 번 압축한 뒤 여러 쿼리에 걸쳐 재사용하는 오프라인 환경에만 제한됩니다. 우리는 Mamba 상태공간 모델(SSM)을 기반으로 한 플러그 앤 플레이형 온라인 컨텍스트 압축기인 Boa Compressor를 제안합니다. 이 압축기는 임의 길이의 컨텍스트를 단일 선형 시간 패스로 인코딩하여, 그 결과 얻은 표현을 바탕으로 우리가 조건부…
