AI NEWS JOURNAL

AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

2026-10-30

arXiv cs.CL12:00

노출은 약속이 아니다: 도구를 사용하는 에이전트의 잠재적 모니터에 대한 이중 계층 평가

arXiv:2610.37679v1 발표 유형: 신규 초록: 도구를 사용하는 언어 에이전트는 간접적인 프롬프트 삽입에 취약하며, 점점 늘어나는 연구들은 모델 내부를 분석하여 안전하지 않은 행동이 실행되기 전에 이를 포착하려 하고 있지만, 그 결과는 매우 상반되고 있습니다. 우리는 이러한 갈등의 대부분이 평가 과정에서 발생하는 오류 때문이라고 주장하며, 평가 및 학습 집단 모두에서 삽입 노출과 행동 이행을 구분하는 이중 계층화 프로토콜을 제안합니다. 주요 Qwen AgentDojo 그리드에서, 순수한 혼합된 안전하지 않은 행동 대 나머지 행동의 대조를 기반으로 훈련된 모니터링 모델은 대부분 노출 여부만을 학습합니다. 즉, 에이전트가 해당 행동을 따르든 따르지 않든 노출된 경로를 표시할 뿐이며, 어떤 경우에 안전하지 않은 행동으로 이어지는지 예측하는 데는 거의 성과를 보이지 않습니다. 노출된 사례들만을 대상으로 재훈련한 동일한 탐지 모델군은 모델 자체가 수행하는 안전하지 않은 도구 호출을 최대 2초 전까지 예측할 수 있습니다.

진행 상황 및 관련 보도

arXiv cs.CL12:00

아티팩트 증류: 프런티어 언어 모델에서 소규모 언어 모델로의 학습 없이 전이

arXiv:2610.37680v1 발표 유형: 신규 초록: 최첨단 언어 모델과 소규모 언어 모델 간의 격차를 좁히는 방법으로는 일반적으로 디스틸레이션 기법이 사용됩니다. 이는 소규모 모델(학생)을 최첨단 모델(교사)의 출력에 대해 미세조정함으로써, 전이 과정이 학습용 컴퓨팅 자원에 의존하게 만들고 전달된 지식은 상당히 투명하지 않은 상태로 남게 합니다. 우리는 아티팩트 디스틸레이션을 제안합니다. 교사는 학습 사례를 해결하고 그 문제 해결 절차를 아티팩트 은행에 외부화하며, 학생은 추론 시 해당 은행을 조회하여 이를 활용합니다. 이 과정에서는 파라미터 업데이트가 전혀 발생하지 않습니다. LiveBench의 네 가지 과제에서, Claude Opus 4.5가 작성한 은행을 사용하면 Claude Haiku 4.5가 공간 추론에서 비지원 Claude Sonnet 4.5보다 60%의 비용으로 더 높은 성능(0.707 대 0.647)을 보이며, 테이블 조인 작업에서는 Sonnet 4.5 수준에 도달하는 데 89%의 비용만 들입니다. 동일한 원시 은행은

진행 상황 및 관련 보도

arXiv cs.CL12:00

점수 해설을 읽지 않고 이해하기: 자동 해석 가능성 평가 데이터의 구조적 단축법

arXiv:2610.37676v1 발표 유형: 신규 초록: 자동 해석 가능성은 스파스 오토인코더(SAE)의 특성에 대해, 평가 예제들에서 해당 특성이 언제 활성화되는지를 모델에게 토큰 단위로 예측하도록 하거나, 표시된 토큰들이 그 특성에 부합하는지 여부를 판단하도록 함으로써 점수를 매긴다. 우리는 평가 데이터의 표준 파이프라인이 설명을 읽지 않고도 점수를 매길 수 있음을 발견했다. Neuronpedia에 저장된 500개의 임의 GPT-2 소형 특성에 대한 퍼징 실행 결과에 따르면, 활성화된 예제의 91.3%가 중심 토큰에 최대값이 위치한 상태로 잘려 나오며, 중심 토큰이 표시되어 있을 때 “예”라고 판정하는 규칙은 저장된 LLM 점수계보다 높은 균형 정확도 0.979를 달성한다(파이프라인 코드로부터 재구성된 표시를 기반으로 계산됨); 반면 표시 개수만을 기준으로 판단하는 규칙은 0.969의 정확도를 기록한다. T

진행 상황 및 관련 보도

2026-10-28

arXiv cs.DC12:00

적응 전 교정: 연합 적응 최적화를 위한 기울기 보정

arXiv:2502.02727v4 발표 유형: replace-cross 초록: 클라이언트 드리프트 보정 방법은 연합학습(FL)에서 데이터 이질성의 영향을 완화합니다. 확률적 경사하강법(SGD) 기반 FL에 대한 드리프트 보정은 잘 연구되어 왔지만, 적응형 클라이언트 최적화 알고리즘과의 상호작용에 대해서는 아직 충분히 이해되지 않았습니다. Adam과 같은 적응형 최적화 알고리즘은 과거 경사의 이동평균을 기반으로 각 업데이트를 구성하므로, 최종 업데이트 방향만을 보정하면 해당 평균들과 그 안에 포함된 드리프트는 그대로 유지됩니다. 우리는 이러한 이동평균에 들어가기 전에 각 경사를 먼저 보정하는 연합 적응형 경사 보정({\tt FA-GC})을 제안하고, 이를 최종 방향에 보정을 추가하는 연합 적응형 단순 추적({\tt FA-NT})과 비교합니다. 우리는 이론적으로

진행 상황 및 관련 보도

2026-10-27

arXiv cs.CV12:00

ProtoEEG: EEG 시각적 해독을 위한 구조화된 프로토타입 정렬

arXiv:2610.33065v1 발표 유형: 신규 초록: 두피 기록은 잡음이 많고 공간적 해상도가 낮으며 실험 조건과 피실험자 간에 변동성이 크기 때문에 EEG를 통한 시각적 해독은 여전히 어려운 과제로 남아 있습니다. 대부분의 시스템은 각 실험을 고밀도 이미지 임베딩과 정렬하지만, 이러한 임베딩은 의미적 내용과 개별 사례에 특화된 질감, 자세, 배경 등을 혼합하고 있습니다. 이는 EEG에서 제공되지 않는 세부 정보를 요구할 뿐만 아니라, 예측을 뒷받침하는 시각적 요인들에 대한 명시적인 설명도 제공하지 않습니다. 우리는 \textbf{ProtoEEG}라는 프로토타입 기반 프레임워크를 제안합니다. 이 프레임워크는 EEG와 이미지 간의 정렬 문제를 공유 가능한 학습 가능한 시각 코드북 위에서 이루어지는 소프트한 합성으로 재구성합니다. 학습 가능한 EEG 인코더와 고정된 시각 교사가 동일한 $K=64$개의 프로토타입에 대한 할당 분포를 생성하며, 이들의 가중치를 적용한 재구성 결과는 구조화된 표현을 형성합니다

진행 상황 및 관련 보도

arXiv cs.LG12:00

ReMedI: 제어 가능한 분자 최적화를 위한 추론 시 정제 및 자기 디스틸레이션

arXiv:2610.32103v1 발표 유형: 신규 초록: 약물 개발에서 리드 최적화는 투과성을 높이고 독성을 낮추는 등 상충되는 특성을 개선하는 동시에, 리드의 효능을 저해할 수 있는 골격 변화를 제한해야 한다. C-MORAL과 같은 RL 기반 사후 학습은 분자 언어 모델을 미세 조정하여 관심 있는 목표에 대해 분자 리드를 직접 최적화함으로써 이러한 문제를 해결하지만, 이는 비용이 많이 드는 특정 작업용 데이터셋에 의존하며 다목적 최적화(MOO) 달성에도 어려움을 겪는다. 우리는 사전 학습된 모델이 이미 제로샷 생성으로는 효율적으로 도달하기 어려운 유용한 분자 수정 정보를 포함하고 있을 수 있다고 주장한다. 제로샷 생성의 제한된 탐색 능력에 착안하여, 우리는 효율적인 메트로폴리스-허스팅스 탐색 전략을 개발하여 베팅…

진행 상황 및 관련 보도

arXiv cs.CV12:00

Nemotron 3.5 Bolt 74B-A9B 24GB: 로컬 AI를 위한 하이브리드 비전-언어 모델

arXiv:2610.33039v1 발표 유형: 신규 초록: 우리는 로컬 에이전트 워크로드를 위한 메모리 사용량 당 속도와 지능을 최적화하는 하이브리드 Mamba-Transformer 비전-언어 모델인 Nemotron 3.5 Bolt 74B-A9B 24GB를 소개합니다. Nemotron 3.5 Super VL 120B-A12B 모델 계열에서 파생된 Nemotron 3.5 Bolt 74B-A9B 24GB는 스타 엘라스틱 압축과 2비트 퀀타이제이션 기반의 학습 후 양자화 기반 증류 기술을 결합하여 메모리 제약 환경에서도 효율적으로 배포할 수 있도록 설계되었습니다. 이 모델은 추론, 에이전트 기반 도구 활용, 그리고 웹 및 터미널 상호작용에 최적화되어 있습니다. 또한, 목표한 추론 속도를 달성하기 위해 모델과 함께 공개되는 LiLiCorr 사양형 드래프터를 별도로 교육했습니다. 그 결과 생성된 모델은 일반적인 에이전트 작업에 대한 여러 벤치마크에서 유사한 메모리 사용량과 속도를 가진 주요 경쟁 모델들보다 높은 정확도를 보여줍니다.

진행 상황 및 관련 보도

arXiv cs.CL12:00

소셜 월드 모델 평가 격차

arXiv:2610.33014v1 발표 유형: 신규 초록: 협상 어시스턴트는 상대방의 반응을 정확히 예측하지 않더라도 좋은 거래를 성사시킬 수 있다. 우리는 사회적 세계 모델에 대한 평가들이 이러한 예측을 직접적으로 검증하는지 여부를 묻는다. 1999년부터 2026년까지 발표된 113편의 연구를 검토한 결과, 9편의 주요 평가는 시스템이나 실험자가 선택한 행동에 대한 실제 사람의 반응을 측정한다. 이 중 단 2편만이 명시적인 반응 예측과 실제 반응을 비교하고 있다. 해당 연구들의 예측 모델은 행동이 선택될 때 이용 가능한 정보를 사용하며, 평가 대상 반응은 모델 학습 과정에서 제외되었다; 또한 두 연구 모두 개입 조건을 무작위화하였다. 언어 모델 관련 25편의 논문에 대한 별도의 전문 텍스트 검토에서는 이러한 조건을 충족하는 실험이 발견되지 않았다. 나머지 평가들은 현재 상태 추론, 과제 성공 또는 예측 f

진행 상황 및 관련 보도

arXiv cs.AI12:00

DMAIC-벤치: 다단계 분석 작업에서 에이전트의 자기성찰에서 자기절제까지

arXiv:2610.32305v1 발표 유형: 신규 초록: 다단계 분석 작업에서는 LLM 에이전트가 다음 단계를 계속할지, 경로를 변경할지, 또는 중단할지를 결정하기 위해 중간 증거를 활용해야 합니다. 에이전트가 자신의 출력을 비판하는 자기반성은 널리 연구되어 왔지만, 이러한 비판만으로는 증거가 다음 행동에 영향을 미쳤는지 여부를 확인할 수 없습니다. 우리는 이러한 능력을 ‘자기억제’라고 부릅니다. 기존의 에이전트 벤치마크는 대부분 과제 완료 여부나 출력 품질을 측정할 뿐, 이 능력은 검증되지 않은 상태입니다. DMAIC-Bench는 린 식스 시그마의 명시적인 통계적 전제 조건을 기반으로 하여, 4개 산업 분야의 15개 산업 사례에 걸쳐 97개의 초기 설정된 과제를 통해 이를 평가합니다. 쌍으로 구성된 역설적 변형 과제들은 동일한 워크플로우 위치에서 서로 반대되는 행동을 요구함으로써, 정당화된 억제와 무분별한 중단을 구분합니다. 우리는 실행 추적 정보를 통해

진행 상황 및 관련 보도

2026-10-26

arXiv cs.DC12:00

InferSlice: 통신사 광역 네트워크에서 SLO 기반 LLM 추론을 위한 참조 아키텍처

arXiv:2610.32638v1 발표 유형: 신규 초록: LLM 추론은 기업 및 대화형 애플리케이션의 핵심 서비스로 점점 더 많이 도입되고 있지만, 주권, 규정 준수, 지연 시간 및 자원의 지역적 근접성 요구 사항으로 인해 중앙 집중식 클라우드 배포의 적합성이 제한될 수 있습니다. 통신사는 이러한 제약을 해결하기 위해 지리적으로 분산된 컴퓨팅 및 네트워크 인프라를 제공합니다. 그러나 기존의 LLM 서비스 프레임워크는 밀접하게 연동된 데이터 센터를 위해 설계되어 있어, 지리적으로 분산되고 이질적인 자원을 조율하는 데 대한 지원이 제한적입니다. 우리는 통신사 인프라 위에서 서비스 수준 목표(SLO) 기반 LLM 추론을 위한 참조 아키텍처인 InferSlice를 제시하며, 여기에는 네트워크 슬라이싱, GPU 파티셔닝, 탄력적 서비스 및 관찰성이 통합되어 있습니다.

진행 상황 및 관련 보도

arXiv cs.DC12:00

오픈 ISA 슈퍼컴퓨팅을 향하여: HPC 워크로드에 대한 RISC-V, Arm, x86 아키텍처 비교 연구

arXiv:2610.32632v1 발표 유형: 신규 초록: RISC-V는 고성능 컴퓨팅(HPC)의 후보 아키텍처로 부상하고 있지만, 기존의 x86 및 Arm 프로세서와의 경쟁력은 아직 평가하기 어렵습니다. 이는 기존 연구들이 서로 다른 플랫폼, 워크로드, 방법론을 사용하고 있으며, 에너지 효율성을 거의 고려하지 않기 때문입니다. 본 연구에서는 공통된 소프트웨어 스택과 방법론을 활용하여 최신 HPC용 RISC-V, Arm, x86 프로세서를 평가합니다. 우리는 Sophgo SG2044를 특성화하고, NVIDIA Grace CPU 슈퍼칩 및 Intel Xeon Platinum 8480+와 함께 STREAM, HPL, HPL-MxP, HPCG 등 네 가지 HPC 벤치마크와 iPIC3D, PLUTO, OpenFOAM, llama.cpp 등 네 가지 대표 애플리케이션에서 비교 분석을 수행했습니다. 본 연구에서 사용된 OpenBLAS 기반 HPL-MxP 버전은

진행 상황 및 관련 보도

arXiv cs.CV12:00

OpenHome: 스마트홈 카메라 영상에서 인식부터 통찰까지

arXiv:2610.31986v1 발표 유형: 신규 초록: 비전 언어 모델(VLM)은 녹화된 영상을 해석하고 유의미한 통찰을 제공하기 위해 소비자용 스마트홈 카메라 시스템에 점점 더 널리 도입되고 있습니다. 그러나 스마트홈 카메라가 캡처하는 영상 클립은 기존 VLM 벤치마크를 지배하는 큐레이션된 웹 영상과는 다릅니다. 스마트홈 영상 클립은 자막이나 내레이션이 없고, 다양한 시야각에서, 여러 조명 조건 하에, 그리고 다양한 상황에서 촬영되는 경우가 많습니다. 그럼에도 불구하고, 이 분야에서 희박한 시각적 신호와 제한된 맥락 속에서 모델이 발휘하는 성능은 기존 VLM 벤치마크로는 충분히 평가되지 못했습니다. 이러한 격차를 해소하기 위해, 우리는 스마트홈 영상 이해력을 평가하기 위한 시각 전용 4지선다형 벤치마크인 OpenHome을 소개합니다. I

진행 상황 및 관련 보도

arXiv cs.DC12:00

GLP 네트워킹 API 사양

arXiv:2610.32583v1 발표 유형: 크로스 요약: 다중에이전트 결정론적 GLP(madGLP)는 비동기식 메시지 전달만을 통해 상호작용하는 에이전트들로서 그라스루츠 로직 프로그램(GLP)을 실행하며, 모든 발송된 메시지는 결국 전달된다는 공정한 전달을 가정합니다. 각 에이전트는 사용자의 공개키로 식별되는 개인의 스마트폰에서 실행됩니다. 그라스루츠 플랫폼은 네트워크 외에는 어떠한 글로벌 자원도 의존하지 않으므로, 에이전트들은 블루투스 저에너지, 로컬 네트워크, 그리고 NAT 뒤에서 인터넷을 통해 누구나 운영할 수 있는 렌더부 서버를 이용해 서로 연결되어야 합니다. 이러한 네트워크가 madGLP에 요구하는 바와, 네트워크가 플랫폼에 요구하는 바는 아직 명시되지 않았습니다. 우리는 madGLP 아래의 네트워킹 계층을 구체적으로 규정합니다. GLP에서 수행 가능한 모든 작업은 GLP에서 이루어지며, 이 계층은 단지

진행 상황 및 관련 보도