본문으로 건너뛰기
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

DirCast: 단일 스트리밍 비디오 언어 모델을 활용한 실시간 e스포츠 연출 및 해설

arXiv:2610.31734v1 발표 유형: 신규 초록: 실시간 e스포츠 중계에서는 매초마다 다음 장면을 예측하지 못한 채, 어떤 카메라를 송출할지 결정하는 디렉터와 그 선택에 대해 해설하는 캐스터가 필요합니다. 기존의 스트리밍 비디오 언어 모델은 이미 인간 디렉터가 제작한 방송에 대해서만 해설하는 능력을 학습해 왔습니다. 우리는 이러한 상황에서, 모든 선수의 원시 카메라 영상을 입력으로 받아, 과거 정보만을 바탕으로 동시에 연출과 해설을 수행해야 하는 실시간 방송 제작 환경을 연구합니다. 이에 따라, 두 가지 역할을 모두 수행하는 단일 스트리밍 비디오 언어 모델인 DirCast를 제안합니다. DirCast는 매초마다 모든 카메라 영상을 저해상도로 스캔하고, 유지 또는 전환 여부를 결정하는 디렉터 모드를 통해 언제 어디서 컷을 할지 판단한 뒤, 선택된 카메라 영상을 고해상도로 읽어들여 해설을 시작합니다. 또한, 모델의 문맥은 현재 송출된 내용과

DirCast: Live Esports Directing and Commentary with a Single Streaming Video-Language Model
진행 상황 및 관련 보도

InferSlice: 통신사 광역 네트워크에서 SLO 기반 LLM 추론을 위한 참조 아키텍처

arXiv:2610.32638v1 발표 유형: 신규 초록: LLM 추론은 기업 및 대화형 애플리케이션의 핵심 서비스로 점점 더 많이 도입되고 있지만, 주권, 규정 준수, 지연 시간 및 자원의 지역적 근접성 요구 사항으로 인해 중앙 집중식 클라우드 배포의 적합성이 제한될 수 있습니다. 통신사는 이러한 제약을 해결하기 위해 지리적으로 분산된 컴퓨팅 및 네트워크 인프라를 제공합니다. 그러나 기존의 LLM 서비스 프레임워크는 밀접하게 연동된 데이터 센터를 위해 설계되어 있어, 지리적으로 분산되고 이질적인 자원을 조율하는 데 대한 지원이 제한적입니다. 우리는 통신사 인프라 위에서 서비스 수준 목표(SLO) 기반 LLM 추론을 위한 참조 아키텍처인 InferSlice를 제시하며, 여기에는 네트워크 슬라이싱, GPU 파티셔닝, 탄력적 서비스 및 관찰성이 통합되어 있습니다.

InferSlice: A Reference Architecture for SLO-driven LLM Inference over a Telco Wide-Area Network
진행 상황 및 관련 보도

오픈 ISA 슈퍼컴퓨팅을 향하여: HPC 워크로드에 대한 RISC-V, Arm, x86 아키텍처 비교 연구

arXiv:2610.32632v1 발표 유형: 신규 초록: RISC-V는 고성능 컴퓨팅(HPC)의 후보 아키텍처로 부상하고 있지만, 기존의 x86 및 Arm 프로세서와의 경쟁력은 아직 평가하기 어렵습니다. 이는 기존 연구들이 서로 다른 플랫폼, 워크로드, 방법론을 사용하고 있으며, 에너지 효율성을 거의 고려하지 않기 때문입니다. 본 연구에서는 공통된 소프트웨어 스택과 방법론을 활용하여 최신 HPC용 RISC-V, Arm, x86 프로세서를 평가합니다. 우리는 Sophgo SG2044를 특성화하고, NVIDIA Grace CPU 슈퍼칩 및 Intel Xeon Platinum 8480+와 함께 STREAM, HPL, HPL-MxP, HPCG 등 네 가지 HPC 벤치마크와 iPIC3D, PLUTO, OpenFOAM, llama.cpp 등 네 가지 대표 애플리케이션에서 비교 분석을 수행했습니다. 본 연구에서 사용된 OpenBLAS 기반 HPL-MxP 버전은

Toward Open ISA Supercomputing: A Comparative Study of RISC-V, Arm, and x86 Architectures on HPC Workloads
진행 상황 및 관련 보도

실시간 분할 제어에서 제로샷 조정을 위한 인지적 제약을 가진 파트너

arXiv:2610.31726v1 발표 유형: 신규 초록: 효과적인 인간-기계 팀워크를 위해서는 예측 불가능한 인간 파트너와 협력하는 에이전트가 필요합니다. 실시간 인간 피드백이나 대규모 행동 데이터셋을 기반으로 한 강화학습은 비용이 많이 들며, 순수하게 시뮬레이션된 학습은 인공적인 규칙에 과적합되어 실제 사람들과의 제로샷 조정에서는 실패합니다. 우리는 인지적 제약을 가진 파트너를 상대로 팀워크 에이전트를 학습시키는 프레임워크를 제안합니다. 이 시뮬레이션 파트너들은 보상 설계나 과거 학습 체크포인트가 아닌, 인간의 생리학적 문헌에 근거한 절차적 제약—특히 반응 지연과 지각 한계—에서 비롯된 다양성을 갖습니다. 수정된 루나랜더 환경에서, 이러한 파트너들이 더 유사하게 플레이한다는 초기 증거를 보고합니다.

Cognitively Constrained Partners for Zero-Shot Coordination in Real-Time Partitioned Control
진행 상황 및 관련 보도

온폴리시 대 오폴리시를 넘어: LLM 에이전트 디스틸레이션은 어느 수준에서 학생 모델을 따라야 하는가?

arXiv:2610.31918v1 발표 유형: 신규 초록: 상호작용하는 LLM 에이전트를 디스틸레이션할 때는 교사가 생성한 시연과 학생이 생성한 경험 중 하나를 선택해야 하며, 이는 대략적으로 오폴리시와 온폴리시 디스틸레이션에 해당합니다. 두 방법 모두 효과적인 것으로 입증되었지만, 우리는 이러한 구분이 본질적으로 계층적이라고 주장합니다. 즉, 상호작용의 역사(히스토리)를 유도하는 정책과 현재 행동의 토큰 접두사를 생성하는 정책이 반드시 동일할 필요는 없다는 것입니다. 우리는 이러한 두 가지 수준의 온폴리시성을 체계화하고, 이들 간의 매칭, 혼합 비율 및 학습 스케줄을 명시적으로 제어할 수 있도록 하는 계층적 에이전트 디스틸레이션 프레임워크를 제안합니다. 우리는 이 문제를 자기 디스틸레이션 방식으로 연구하며, 여기서 고정된 교사는 학생에게는 제공되지 않는 과제 지침에 접근할 수 있습니다.

Beyond On-Policy vs. Off-Policy: At What Level Should LLM Agent Distillation Follow the Student?
진행 상황 및 관련 보도

정상 상태 실행 원형으로서의 마이그레이션: 저궤도에서의 가상 정지 상태를 위한 런타임

arXiv:2610.32720v1 발표 유형: 신규 초록: 저궤도(LEO) 위성 메가컨스텔레이션은 지연 시간에 민감한 지구 중심 응용 프로그램을 위한 궤도 내 엣지 컴퓨팅을 가능하게 하지만, 위성의 운동으로 인해 시선 통신 창은 단 몇 분으로 압축됩니다. 논리적 지리적 근접성을 유지하기 위해, ‘가상 정지 상태(VS)’라고 불리는 패러다임 하에서는 애플리케이션이 컨스텔레이션 내 통과하는 여러 위성들 사이를 지속적으로 이동해야 합니다. 전통적인 실시간 마이그레이션 메커니즘은 개별적으로 시작된 이동이나 복제는 최적화하지만, 궤도 운동이 요구하는 연속적인 호스트 간의 전환은 처리하지 못합니다. 우리는 실시간 마이그레이션을 정상 상태 실행 모델로 재구성하고, 새로운 가상 정지 상태 런타임 패러다임을 도입합니다. 또한, 연속적인 마이그레이션의 실현 가능성을 공식화합니다.

Migration as a Steady-State Execution Primitive: A Runtime for Virtual Stationarity in Low-Earth Orbit
진행 상황 및 관련 보도

계층적 알고리즘을 통한 버스티(Bursty) HPC 워크로드의 공정한 스케줄링을 위한 대기열 제한

arXiv:2610.32027v1 발표 유형: 신규 초록: HPC 클러스터는 여러 프로젝트 간에 공유되며, 각 프로젝트에는 노드-시간 할당량이 부여됩니다. 이러한 환경에서 공정성을 보장하는 것은 점점 더 어려워지고 있습니다. 파운데이션 모델 기반 워크플로와 자동화된 파이프라인의 등장으로 작업 제출 패턴이 급격히 변해 일부 대용량 사용자에게 집중되고 있으며, 이로 인해 가끔 사용자들은 빈번한 사용자들로 인해 발생하는 대기 지연을 감수해야 하지만, 자신의 작업이 얼마나 오래 대기할지에 대한 명확한 정보조차 얻기 어렵습니다. 기존 스케줄러들은 과거 사용량을 고려하지 않거나, 대기열 맨 앞에 있는 작업만을 우선적으로 처리하거나, 실행 중인 작업은 언제든지 선점될 수 있다고 가정합니다. 이에 우리는 모든 사용자 간의 공정성을 보장하면서도 각 작업의 대기 시간을 제한하는 하이브리드 마감일 및 순위 인식 스케줄러인 HyDRA를 제안합니다. HyDRA는 작업이 도착할 때마다 그 크기와 해당 프로젝트의 우선순위를 바탕으로 각 작업에 마감일을 부여합니다.

Bounding Queue Waits for Fair Scheduling of Bursty HPC Workloads via Hierarchical Algorithms
진행 상황 및 관련 보도

물리학 기반 최적화를 위한 엔드투엔드 미분 가능한 확산 조건부 학습

arXiv:2610.31721v1 발표 유형: 신규 초록: 비용이 많이 드는 평가와 복잡한 제약 조건 하에서 고차원 물리 시스템을 최적화하는 문제는 과학과 공학 분야의 핵심 과제입니다. 오프라인 모델 기반 최적화(MBO)에서는, 테스트 시간에 실제 목적 함수에 접근할 수 없으며 고정된 데이터 세트만을 사용하여 설계를 개선해야 합니다. 그러나 기존 방법들은 일반적으로 보수성, 제약 없는 대리모델 활용, 또는 정밀한 물리적 목표에 맞춰 후보를 정교하게 개선하지 못하는 정적인 추론 시점 샘플러로 작동하는 등의 한계를 지니고 있습니다. 본 논문에서는 오프라인 MBO를 위한 미분 가능한 확산 조건부 학습(D2C)을 제안합니다. 이 방법은 결정론적 샘플링이 역 노이즈 체인을 조건부 신호에 대해 미분 가능하게 만든다는 점을 활용합니다. D2C는 …

End-to-End Differentiable Diffusion Conditioning for Physics-Informed Optimization
진행 상황 및 관련 보도

SyncVid: 동기화된 비디오 생성을 위한 세계-불변 디퓨전

arXiv:2610.31765v1 발표 유형: 신규 초록: 단일 참조 비디오로부터 동적 장면의 여러 비디오를 생성하려면, 서로 다른 시점 간에 관찰된 내용과 미관찰된 내용을 일관되게 합성해야 합니다. 기존의 비디오 디퓨전을 위한 카메라 제어 방법들은 일반적으로 카메라 임베딩, 시각 간 주의 메커니즘, 기하학적 조건부 등 다양한 아키텍처적 기법에 의존합니다. 이러한 접근법은 정적인 장면의 콘텐츠에는 효과적이지만, 시점 간 및 시간에 걸쳐 일관성을 유지해야 하는 세밀하고 동적인 기하학적 특성에는 종종 어려움을 겪습니다. 우리는 각 2D 이미지 평면에서 독립적으로 샘플링하는 대신, 소스 비디오로부터 도출된 표준적인 3D 공간에서 가우시안 노이즈 사전 분포를 샘플링하고 이를 타겟 카메라로 래스터화함으로써 디퓨전 과정 자체를 동기화합니다. 우리의 m

SyncVid: World-Equivariant Diffusion for Synchronized Video Generation
진행 상황 및 관련 보도

트레이드오프를 고려한 영역 설계: 기업 고객-영업사원 배정을 위한 다목적 의사결정 시스템

arXiv:2610.31701v1 발표 유형: 신규 초록: 기업 고객의 구매 여정은 제품 경험과 마케팅뿐만 아니라 반복적인 자원 할당 결정에 의해 형성된다. B2B 시장 진출(GTM) 조직에서는 영역 설정이 어떤 계정에 영업사원의 영업 범위가 제공되는지, 어떤 영업사원-계정 관계가 유지되는지, 그리고 제한된 영업 인력의 역량이 어떻게 배분되는지를 결정한다. 그러나 이 과정은 종종 수동으로 이루어져, 기회 비교, 가치 지속성 평가, 성장, 균형, 역량 및 실행 가능성 간의 트레이드오프를 검토하기 어렵다. 우리는 기업 GTM 계획에서 트레이드오프를 고려한 고객-영업사원 배정을 위한 실용적인 의사결정 시스템을 제안한다. 이 시스템은 세 가지 구성 요소를 통합한다: 예측 신호를 결합하여 점수를 매기는 다차원 계정 가치 레이어와

Tradeoff-Aware Territory Design: A Multi-Objective Decision System for Enterprise Customer-to-Seller Allocation
진행 상황 및 관련 보도

실내 무선 지도 추정을 위한 협력적 인컨텍스트 학습

arXiv:2610.31702v1 발표 유형: 신규 초록: 실내 무선 지도 추정(RME)은 커버리지 계획, 위치 파악, 네트워크 배치 등 무선 응용 분야에서 필수적입니다. 그러나 기존 방법의 대부분은 비용이 많이 드는 라벨링된 데이터와 작업별 모델 학습을 요구하는 지도학습 패러다임을 따릅니다. 또한 실내 환경에는 건물 구조나 배치와 같은 개인정보에 민감한 정보가 포함되어 있어 이를 중앙 집중화하기 어려운 경우가 많습니다. 이러한 도전 과제를 해결하기 위해 우리는 실내 RME를 협력적 인컨텍스트 학습(ICL) 문제로 처음으로 정식화하고자 합니다. 우리는 다수의 클라이언트가 모델 업데이트 없이 대규모 자동회귀 시각 모델(LAVMs)을 활용해 ICL을 수행하는 프레임워크인 폴리-리플을 제안합니다. 각 클라이언트는 자신의 개인적인 시연 데이터를 통해 프롬프트를 받습니다.

Collaborative In-Context Learning for Indoor Radio Map Estimation
진행 상황 및 관련 보도

KVStream: 대규모 LLM 서비스에서의 KV 캐싱을 위한 적응형 병렬 스토리지 관리

arXiv:2610.31827v1 발표 유형: 신규 초록: 에이전트 기반, 코드 작성 및 문서 처리 워크로드를 위한 장문 컨텍스트 LLM 서비스에서는 키-값(KV) 캐시가 GPU와 호스트 메모리를 초과하여 사용되므로, 접두사 검색을 위한 추론 단계에서 스토리지 I/O가 핵심 경로로 작용하게 됩니다. 단일 노드 로컬 NVMe는 모든 검색 작업을 담당하는 반면, 노드들이 이미 마운트한 병렬 파일 시스템이나 클라우드 파일 스토어에는 거의 추론 트래픽이 발생하지 않습니다. 우리는 이러한 계층 간의 접두사 검색을 집합 대역폭 스케줄링으로 포착하고, 한 단계의 읽기 작업을 일괄 처리하며, 전방향 패스 이후에 쓰기를 지연하고, 각 청크를 모든 계층에 복제하며, 각 계층이 비워질 때 다음 미처리 청크를 적응적으로 요청하도록 하는 KVStream이라는 KV 캐시 엔진을 제안합니다. 우리의 성능 모델은 이 라우팅 방식이 집합적

KVStream: Adaptive Parallel Storage Management for KV Caching in Large-Scale LLM Serving
진행 상황 및 관련 보도

액터-크리틱 기반 에이전트를 위한 재정적 맥락을 반영한 전략: 주식 거래를 위한 딥 강화 학습 접근법

arXiv:2610.32237v1 발표 유형: 신규 초록: 현대 금융 시장에서 대규모 거래의 4분의 3 이상은 전통적인 인간 트레이더보다 높은 정밀도와 속도를 달성하기 위해 고급 거래 전략에 기반한 알고리즘 트레이딩에 의해 실행된다. 가격 기반 지표에 중점을 두던 기존 전략들은 사회적 감정, 정치적 불안정성 또는 갑작스러운 경제 변화와 같은 현실 세계의 사건들로 인해 발생하는 시장의 역동성을 포착하는 데 한계가 있다. 딥 강화 학습(DRL)의 부상과 데이터의 확보에 따라, 이러한 외부 요인들을 거래 전략에 통합할 수 있는 보다 효율적인 알고리즘이 요구되고 있다. DRL은 실제 상황을 시뮬레이션하고 복잡한 의사결정을 단순화하는 데 잠재력을 보여왔으며, DRL 에이전트는 자동으로

진행 상황 및 관련 보도

OpenHome: 스마트홈 카메라 영상에서 인식부터 통찰까지

arXiv:2610.31986v1 발표 유형: 신규 초록: 비전 언어 모델(VLM)은 녹화된 영상을 해석하고 유의미한 통찰을 제공하기 위해 소비자용 스마트홈 카메라 시스템에 점점 더 널리 도입되고 있습니다. 그러나 스마트홈 카메라가 캡처하는 영상 클립은 기존 VLM 벤치마크를 지배하는 큐레이션된 웹 영상과는 다릅니다. 스마트홈 영상 클립은 자막이나 내레이션이 없고, 다양한 시야각에서, 여러 조명 조건 하에, 그리고 다양한 상황에서 촬영되는 경우가 많습니다. 그럼에도 불구하고, 이 분야에서 희박한 시각적 신호와 제한된 맥락 속에서 모델이 발휘하는 성능은 기존 VLM 벤치마크로는 충분히 평가되지 못했습니다. 이러한 격차를 해소하기 위해, 우리는 스마트홈 영상 이해력을 평가하기 위한 시각 전용 4지선다형 벤치마크인 OpenHome을 소개합니다. I

진행 상황 및 관련 보도

뮤온의 전처리는 언제, 어떻게 이루어지는가? 구조화된 기울기 노이즈의 역할

arXiv:2610.31728v1 발표 유형: 신규 초록: 뮤온은 대규모 언어 모델 학습에서 인기 있는 최적화 방법으로 자리잡았지만, 그 이론적 토대는 아직 잘 이해되지 않고 있다. 본 연구에서는 기울기 노이즈의 기하학적 특성이 뮤온의 전처리 효과를 어떻게 형성하는지 분석한다. 먼저, 고전적인 등방성 노이즈 가정 하에서는 뮤온이 학습률의 재조정 외에는 추가적인 가속 효과를 제공하지 않음을 이론적·실험적으로 보여준다. 이를 계기로 우리는 이질적인 작업 빈도를 갖는 연상 기억 시스템에서 미니배치 샘플링에 의해 발생하는 구조화된 노이즈를 탐구하기로 한다. 두 가지 작업에 대해 정확한 균형 임계점을 규명하고, 이를 다중 작업으로 확장하여 작업 커버리지와 기울기 신뢰성이 학습을 어떻게 공동으로 조절하는지 밝힌다. 우리의 분석에 따르면, 뮤온은 다음과 같은 효과를 완화할 수 있음을 보여준다.

When and How Does Muon Precondition? The Role of Structured Gradient Noise
진행 상황 및 관련 보도

유용한 에이전트 문제: LLM 에이전트 간의 창발적 협력이 의도된 워크플로를 우회할 때

arXiv:2610.31985v1 발표 유형: 신규 초록: LLM 에이전트는 점점 더 많은 협업 환경에서 배치되고 있으며, 이들 에이전트는 자원을 공유하고 심사 또는 감독 프로세스 하에 각자 별개의 작업을 수행합니다. 이러한 환경에서는 에이전트가 악의적이거나 단순히 도움을 주려는 경우에도 안전상의 위험이 발생할 수 있습니다. 기존 연구들은 주로 적대적 행동이나 명시적으로 결탁한 행동을 중심으로 다루어 왔으나, 우리는 별개의 목표를 추구하는 선의의 에이전트들이 의도된 워크플로를 우회하는 방식으로 자발적으로 협력할 수 있음을 보여줍니다. 우리는 이를 \emph{유용한 에이전트 문제}라고 부릅니다. 우리는 장기적인 시야를 가진 공동 자원 환경을 연구하며, 이 환경에서는 에이전트들이 때때로 동료가 소유한 자원에 의존하고, 소유권 변경은 일반적으로 심사자가 중재하는 구조를 갖습니다. 심사가 불가능해지면, 에이전트

The Helpful Agent Problem: When Emergent Cooperation Among LLM Agents Bypasses Intended Workflows
진행 상황 및 관련 보도

KnitTrans: 효과적이고 효율적인 LLM 강화학습을 위한 조정된 궤도 전송

arXiv:2610.32389v1 발표 유형: 신규 초록: 롤아웃에서 학습으로의 궤도 전송은 대규모 언어 모델 강화학습(RL)에서 학습 품질과 시스템 효율성 모두에 영향을 미칩니다. 배치 전체에 걸친 학습 요구사항을 강제할 경우, 완료된 궤도의 수용이 지연되어 아키텍처의 구식화가 심화됩니다. 이는 분산 파이프라인 처리와 동일 장소에서의 실행 간의 추가적인 파라미터 버전 격차로 나타납니다. 수용 외에도, 데이터 접근과 학습 소비 간의 불일치로 인해 대규모 궤도 페이로드를 전송할 때 중복 이동과 불필요한 대기 시간이 발생합니다. 우리는 세 가지 설계를 통해 롤아웃에서 학습으로의 경로를 조정하는 KnitTrans 시스템을 제안합니다. 첫째, 제약을 유지하는 미니배치 수용 방식을 통해 초기 미니배치 구성에 대한 유연성을 제공합니다.

KnitTrans: Coordinated Trajectory Transfer for Effective and Efficient LLM Reinforcement Learning
진행 상황 및 관련 보도

AI-포-사이언스 에이전트는 모델의 안전성을 보장할 수 있을까?

arXiv:2610.32045v1 발표 유형: 신규 초록: AI-포-사이언스 에이전트는 과학적 가설을 제시하고, 자율 실험을 수행하며, 증거를 해석하는 데 점점 더 널리 활용되고 있습니다. 이러한 에이전트들은 도메인 특화형 에이전트 하네스에 대규모 언어 모델(LLM)을 통합하여 구축되며, 이는 LLM의 과학적 역량을 향상시키고 모델이 과학적 도구들을 조율할 수 있도록 합니다. 본 연구에서는 LLM이 AI-포-사이언스 에이전트 하네스에 통합될 때 모델의 안전성이 유지되는지 여부를 검토합니다. 우리는 50개의 유해한 화학 관련 요청에 대해 다섯 가지 에이전트 하네스를 평가합니다. 구체적으로, 직접 프롬프팅, 두 가지 간단한 적대적 프롬프팅 전략, 그리고 적응형 공격 하에서 안전성 행동이 어떻게 변화하는지를 분석합니다. 최근 출시된 GPT의 네 가지 변종을 대상으로 한 결과는 다음과 같습니다.

Do AI-for-Science Agents Preserve Model Safety?
진행 상황 및 관련 보도

영어와 만다린어의 우월적·경멸적 언어 감지

arXiv:2610.31808v1 발표 유형: 신규 초록: 우월적·경멸적 언어(PCL)는 취약 계층을 폄하하고 동정을 강요하는 유해한 언어의 한 형태로, 사회적 부정적 고정관념을 강화합니다. 그러나 노골적인 증오 표현과 달리, 심지어 인간 판사에게도 감지하기가 매우 어려운 경우가 많습니다. 본 논문에서는 PCL을 자동으로 감지하는 시스템을 제안합니다. 첫 번째 접근법은 정적 단어 임베딩과 합성곱 신경망을 사용하여 분류를 수행하며, 두 번째 접근법은 PCL 태스크에 맞게 미세조정된 사전 훈련된 BERT 임베딩을 활용합니다. 두 번째 접근법이 훨씬 더 성공적이었으며, 개발 세트에서 F1 점수 0.528을 기록했습니다.

Patronizing and Condescending Language Detection in English and Mandarin
진행 상황 및 관련 보도

추측적 디퓨전은 두 가지 절충의 이야기입니다

arXiv:2610.31819v1 발표 유형: 신규 초록: 추측적 디코딩은 더 빠르고 낮은 품질의 초안 모델로부터 샘플링을 수행함으로써 자동회귀형 대규모 언어 모델(LLM)의 추론 속도를 가속화하는 기법입니다. 전통적으로, 추측적 디코딩의 근본적인 특성은 검증자 분포에 대해 무손실이라는 점으로, 품질을 희생하지 않고 속도를 보장한다는 것입니다. 이는 최근 개발된 디퓨전 LLM(dLLM)과는 달리, 덜 많은 디퓨전 작업으로 출력의 품질을 저하시킴으로써 상당한 속도 향상을 달성할 수 있다는 점에서 차별됩니다. 디퓨전 모델은 토큰을 병렬로 생성하여 자동회귀 모델보다 더 빠르게 샘플링할 수 있기 때문에, 추측적 디퓨전에서 초안 모델로서 강력한 후보로 간주됩니다. 널리

진행 상황 및 관련 보도