제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
arXiv:2610.38069v1 발표 유형: 신규 초록: 단시간 푸리에 변환(STFT)은 긴 신호의 짧은 지속 시간 창에 대해 푸리에 변환을 계산하며, 이를 통해 주파수가 시간에 따라 어떻게 변화하는지를 특성화한다. 푸리에 변환 알고리즘, 특히 고속 푸리에 변환(FFT) 알고리즘은 병렬 컴퓨팅을 활용하기 위해 잘 발전되어 왔지만, 병렬 단시간 푸리에 변환 알고리즘의 성능을 이해하는 데 관한 연구는 아직 제한적이다. 본 연구에서는 FFT 기반 알고리즘과 준병렬 피드포워드 알고리즘 두 가지를 구현하고, 서로 비교 분석하였다. 그 결과, 낮은 동시성 환경에서는 준병렬 알고리즘이 실행 시간 면에서 우수하지만, …
arXiv:2610.39017v1 발표 유형: 신규 초록: 분산 합의 및 일관성 프로토콜은 이해하기 어렵지만 클라우드의 기반이 되므로, 배포 전에 종종 엄격한 증명과 형식 검증 과정을 거칩니다. 그러나 프로토콜 수정에는 이러한 수준의 엄밀성이 거의 적용되지 않으며, 생산 환경에서는 이러한 수정이 빈번히 발생해 안전성을 위협합니다. 본 논문에서는 수동 수정으로 인한 안전성 위반 위험을 제거하기 위해, 분산 프로토콜을 위한 자동 최적화 도구인 DistOptimize를 제안합니다. DistOptimize는 학술용 언어에서 개발된 처리량 최적화 기법을 실제 운영 환경에서 사용되는 프레임워크에 적용하고, Rocq 언어를 통해 재작성의 정확성을 검증하며, 교정과 ILP 기반 탐색을 결합하여 이를 자동으로 적용합니다.
arXiv:2610.37681v1 발표 유형: 신규 요약: 최근 대규모 추론 모델들은 복잡한 과제를 해결하는 데 있어 뛰어난 성능을 보여왔으며, 이는 긴 사고 체인 데이터에 대한 지도학습微調(SFT)이 그들의 추론 능력을 발현하고 향상시키는 데 핵심적인 기반이 되었기 때문입니다. 추론 중심의 SFT를 개선하고 분석하는 데 있어 빠른 진전에도 불구하고, 이 분야에는 아직도 급속히 증가하는 관련 문헌을 통합적으로 정리한 체계적인 조사가 부족한 실정입니다. 이러한 공백을 메우기 위해 우리는 추론을 위한 SFT의 최근 발전상을 포괄적으로 검토하며, 방법론적 설계와 분석적 탐구라는 두 가지 관점에서 문헌을 살펴봅니다. 먼저, SFT 전반에 걸친 방법론적 개선 사항들을 검토하고 이를 데이터 중심 접근과 알고리즘 중심 접근으로 구분합니다.
arXiv:2610.39981v1 발표 유형: 신규 초록: 대규모 과학 워크플로우는 분산된 HPC 자원에서 실행되므로, 과학 데이터 산출물이 어떻게 생성되는지와 왜 동일한 워크플로우 실행에서도 매우 다른 결과가 나올 수 있는지를 설명하기가 어렵습니다. 기존 시스템은 주로 분산 워크플로우 실행 또는 퍼베넌스 관리에만 집중하며, 세밀한 수준의 퍼베넌스를 분산 과학 데이터 아티팩트의 본질적 속성으로 다루는 경우는 드뭅니다. 우리는 TRACEs(고급 컨테이너화 실행을 위한 추적 가능한 런타임)를 제안합니다. 이는 분산된 컨테이너화된 과학 워크플로우를 위한 퍼베넌스 아키텍처로서, 생성된 모든 데이터 아티팩트에 데이터 계보와 실행 컨텍스트를 직접 내장합니다. 퍼베넌스를 워크플로우 오케스트레이션과 분리함으로써, TRACEs는 아티팩트 중심의 퍼베넌스를 일반화합니다.
arXiv:2610.39222v1 발표 유형: 신규 초록: AI 가속기 아키텍처가 점점 더 다양해짐에 따라, 서로 다른 아키텍처를 통합한 단일 시스템 구현이 새로운 이종 컴퓨팅 패러다임으로 부상하고 있다. GPU와 WSE는 연산, 메모리, 통신 구조에서 상당히 차이를 보이며, 이로 인해 아키텍처 간 상호보완성과 추가적인 오버헤드가 동시에 발생하지만, 이러한 이질성을 실제 성능 향상으로 전환하는 방법은 아직 명확히 밝혀지지 않았다. 이 문제를 해결하기 위해 우리는 GPU–WSE 이종 실행 환경과 상호보완성을 활용할 수 있는 조건을 규명하는 계층적 벤치마킹 방법론을 제안하며, 또한 이질성이 시스템 차원의 성능 향상을 가져오는 경우와 병목 현상으로 작용하는 경우를 식별하는 분석적 성능 모델을 함께 제시한다.
arXiv:2610.38355v1 발표 유형: 신규 초록: KV 캐시 재사용은 LLM 서비스를 가속화하지만, 기존 시스템들은 호스트 DRAM과 NVMe SSD를 계층적 하위 구조로 관리하며, DRAM을 중간 캐시로 활용합니다. 그러나 실제 생산 환경의 LLM 워크로드는 이러한 계층 구조의 두 가지 전제 조건을 모두 무너뜨립니다. 첫째, 이중 모드 재사용 방식은 DRAM의 시간적 필터링 기능을 무력화합니다. 왜냐하면 워크로드는 재사용 거리가 긴 일회성 블록이나 DRAM 용량을 초과하는 수기가바이트 규모의 에이전트 세션으로 구성되어 있어 SSD가 핵심 읽기 경로에 위치하게 되기 때문입니다. 둘째, DRAM의 스테이징과 제거 순서에 따른 배치 방식은 SSD 복원 과정을 병목으로 만듭니다. 인-플라이트 프리픽스를 위해 호스트 스테이징 버퍼를 유지하면 부하 상황에서 컨텐션을 유발해 프리페치 작업이 중단되며, 증분식 제거는 세션의 블록들을 SSD 전체에 분산시켜 대규모 연속 읽기를 방해합니다. 우리는 p
arXiv:2610.35869v1 발표 유형: 신규 초록: AI 애플리케이션은 종종 추론이 필요한지 여부를 판단하기 전에 모델을 호출합니다. 이러한 기본 설정은 모호한 생성 작업에는 유용하지만, 구조화되고 결정론적이며 정책 기반, 조회 지향적이거나 직접 검증 가능한 작업에는 적합하지 않습니다. KORA는 결정론 우선 실행 제어를 도입합니다: 요청을 작업 경로로 표현하고, 먼저 결정론적 또는 구조화된 경로를 시도하며, 경로 결과를 검증하고, 텔레메트리를 기록한 뒤, 결정론적 처리로 해결되지 않을 경우에만 모델 후보 경로로 에스컬레이션하는 사전 추론 제어 계층입니다. 본 논문에서는 KORA를 결정론 우선 실행 제어 아키텍처로 소개하고, 재현 가능한 벤치마크 및 검증 워크로드에서 얻은 제한된 증거를 보고합니다. 재
arXiv:2610.33005v1 발표 유형: 신규 초록: 에너지 기반 모델은 도메인 특화 작업에서 유망한 성능을 보여왔지만, 범용 시나리오를 모델링하는 데는 여전히 어려움이 있습니다. 이러한 격차를 해소하기 위해 우리는 기초 언어 모델링을 위한 에너지 주도형 모델(ESM)을 설계합니다. ESM은 단일 아키텍처 내에서 에너지 주도와 토큰 생성을 통합하여, 에너지 기반 탐색을 활용해 토큰 생성을 정교화합니다. 구체적으로, ESM은 먼저 에너지 지형 위에서 잠재 상태를 최적화한 다음, 이 정제된 잠재 상태를 토큰 생성에 활용합니다. 대규모 말뭉치를 대상으로 이러한 에너지 기반 사전훈련을 수행함으로써, ESM은 유리한 토큰이 낮은 에너지 값을 갖는 일반적으로 효과적인 에너지 지형을 학습합니다. ESM의 스케일링 특성을 탐구하기 위해, 우리는 ESM을 사전훈련합니다
arXiv:2610.34914v1 발표 유형: 신규 초록: 고성능 일반 행렬 곱셈(GEMM) 구현은 최고 성능을 달성하기 위해 GEMM을 신중히 선택된 타일로 분해하는 데 의존합니다. 우리는 특정 하드웨어와 입력 행렬의 형태에 맞는 최적의 타일 크기를 자동으로 식별하는 새로운 분석 모델인 Waypoint를 제시합니다. Waypoint는 메모리 계층 구조, 명령어 수준 병렬성 및 멀티스레딩과의 상호작용을 포함한 모든 아키텍처적 효과를 포착함으로써 주어진 타일 선택 시 달성 가능한 성능을 추정합니다. 이러한 추정치를 대리 변수로 활용하여 가능한 타일 크기의 공간을 탐색하고, 성능을 극대화하는 타일 크기를 식별합니다. 또한 Waypoint는 하드웨어 설계자가 실험적인 하드웨어 최적화에 대한 현실적인 성능을 추정하는 데에도 도움을 줍니다.
arXiv:2610.33366v1 발표 유형: 신규 초록: 대규모 언어 모델(LLMs)은 연구 아이디어 생성과 과학적 발견을 지원하는 데 점점 더 널리 활용되고 있습니다. 다중 에이전트 토론은 다양한 관점을 하나로 모아 연구 아이디어를 개발하는 협업 방식을 제공합니다. 그러나 주요 과제는 각 에이전트에게 서로 다르고 의미 있는 전문성을 부여하여 그들의 기여를 효과적으로 이끌어내는 방법입니다. 연구자들이 협업 과정에서 축적된 연구 경험을 활용하는 방식에서 영감을 받아, 우리는 관련 논문들의 그래프로부터 인사이트를 추출해 문헌 기반의 에이전트 전문성을 구축하는 프레임워크인 InsightAgents를 제안합니다. 한 연구 분야 내에서 진화하는 연구 접근법을 추적하고, 근본적인 가정을 드러내며, 아직 해결되지 않은 과제를 식별하는 인사이트에 따라,
arXiv:2610.32103v1 발표 유형: 신규 초록: 약물 개발에서 리드 최적화는 투과성을 높이고 독성을 낮추는 등 상충되는 특성을 개선하는 동시에, 리드의 효능을 저해할 수 있는 골격 변화를 제한해야 한다. C-MORAL과 같은 RL 기반 사후 학습은 분자 언어 모델을 미세 조정하여 관심 있는 목표에 대해 분자 리드를 직접 최적화함으로써 이러한 문제를 해결하지만, 이는 비용이 많이 드는 특정 작업용 데이터셋에 의존하며 다목적 최적화(MOO) 달성에도 어려움을 겪는다. 우리는 사전 학습된 모델이 이미 제로샷 생성으로는 효율적으로 도달하기 어려운 유용한 분자 수정 정보를 포함하고 있을 수 있다고 주장한다. 제로샷 생성의 제한된 탐색 능력에 착안하여, 우리는 효율적인 메트로폴리스-허스팅스 탐색 전략을 개발하여 베팅…
arXiv:2610.33475v1 발표 유형: 신규 초록: 클라우드 데이터센터 전반에 걸쳐 기반 대규모 언어 모델(LLM)이 광범위하게 배치됨에 따라, 무상태 딥러닝에서 분산형 메모리 집약적 생성 워크로드로의 근본적인 패러다임 전환이 이루어지고 있다. 그러나 엄격한 서비스 수준 목표(SLO) 하에서 대규모 기반 모델을 서비스하는 과정에서는 중요한 물리적 및 시스템 병목 현상이 드러난다. 이러한 과제에는 지속적인 고대역폭 메모리(HBM) 장벽, 연산 중심의 프리필링과 메모리 대역폭 중심의 디코딩 간의 운영 비대칭성, 폭발적으로 증가하는 키-값(KV) 캐시, 부담스러운 서버리스 콜드 스타트, 그리고 하드웨어 신뢰성 취약점 등이 포함된다. 기존 문헌 리뷰들은 여전히 계층별로 분리되어 있어, 저수준 가속기 가상화와 클러스터를 서로 분리하고 있다.
arXiv:2610.33001v1 발표 유형: 신규 초록: 학술적 퇴고는 정당한 글쓰기 목표 간의 충돌이 발생할 때 거버넌스상의 문제를 야기한다. 글쓰기 과정 및 사회과학 분야의 연구에 따르면, 퇴고는 재귀적이며 문장 표현에는 인식론적·학문적 차원의 맥락적 의무가 수반된다. 이러한 연구들은 중요한 제약 조건들을 규명하되, 간결성, 출판 매체 형식, 또는 스타일적 다양성이 증거와 주장의 한계와 충돌할 경우 어떤 목표가 우선해야 하는지에 대해서는 명확히 규정하지 못하고 있다. 본 논문은 퇴고를 순서화된 제약 조건 하에서의 허용 가능성 문제로 모델링한다. 작업별 불변량, 맥락적 제약 조건, 그리고 가변적인 표현 선택이 허용 가능한 범위를 규정하며, 주장 보전 계약은 증거와 판단을 권한 있는 주장의 한계와 연결한다. 네 가지 거버넌스 관련 명제가 이를 구체화한다
arXiv:2610.32308v1 발표 유형: 신규 초록: 다단계 역합성은 목표 분자를 연속적인 반응 단계를 거쳐 구매 가능한 빌딩 블록으로 재귀적으로 변환하는 과정을 요구하며, 최근 연구에서는 이 과제를 해결하기 위해 대규모 언어 모델(LLM)의 추론 기법을 활용하기 시작했습니다. LLM 추론 기법은 최근 발전 과정에서 장기적 지평 영역으로 진입했으며, 모델들은 상호 의존적인 여러 단계에 걸쳐 목표를 추구하고 환경과 상호작용하며 피드백에 적응합니다. 이러한 변화는 AI 기반 수학 연구에서의 획기적인 성과들로 입증되듯이, LLM의 능력을 크게 향상시켰습니다. 이러한 최첨단 분야에서 우리는 8B 규모의 LLM인 Solvent를 소개하며, 이 모델은 장기적 지평에서의 추론 능력을 다단계 역합성에도 성공적으로 확장했습니다. Solvent는 두 차례에 걸친 사후 학습 커리큘럼을 통해 반복적인 처리를 병행하는 방법을 학습합니다.
arXiv:2610.33018v1 발표 유형: 신규 초록: 학술 지식 그래프(SKG)는 문헌 검색, 과학적 발견 및 에이전트 지원 연구를 지원합니다. 그러나 SKG 구축을 위한 대부분의 접근법은 일반적으로 학술 개체나 기여 수준의 진술로 명명되는 표현할 지식 단위를 사전에 규정하고, 해당 단위를 통해 표현 가능한 출판 내용만을 유지합니다. 이러한 선택은 두 가지 주요하면서도 서로 다른 패러다임을 낳습니다: 개체와 지역적 관계를 보존하는 개념 중심 SKG와 문장 단위의 고차원 담론을 포착하는 진술 중심 SKG입니다. 두 경우 모두, 그래프는 논문이 지식을 구성하고 전달하는 방식이 아니라 선택된 추출 목표를 반영합니다. 우리는 SUDO, 즉 학술 상위 담론 온톨로지를 제안하며, 이는 지식이 어떻게
arXiv:2610.33004v1 발표 유형: 신규 초록: 광학 문자 인식(OCR)은 역사 기록 보관소의 디지털화에 필수적이지만, 문자 오류율(CER)과 같은 표준 평가 지표만으로는 이름, 날짜, 식별자 등 의미 있는 정보가 제대로 유지되는지를 반드시 반영하지 못합니다. 본 연구에서는 역사 문서에서의 OCR 품질을 평가하는 데 있어 보완적인 관점으로서, OCR 오류를 엔터티 수준에서 분석하는 방법을 탐구합니다. 공개된 벤치마크 데이터셋인 Berrutti 아카이브의 175개 문서와, 게재 승인 시 공개될 5,209개의 수동으로 주석된 엔터티 언급을 추가하여, 시퀀스 인식 기반 OCR 시스템, OCR 전용 비전-언어 모델, 그리고 범용 비전-언어 모델을 비교합니다. 전역적 전사 정확도 외에도
arXiv:2610.32179v1 발표 유형: 신규 초록: 신경망 아키텍처 탐색(NAS)은 비용이 많이 들지만, 교차 작업 전이를 통해 이전 작업에서 얻은 지식을 재사용함으로써 비용을 절감할 수 있습니다. 그러나 기존 방법들은 희박한 검색 기록과 작업별 전이 실패 문제에 어려움을 겪습니다. 우리는 챔피언 기반 초기화와 공동 쌍방향 랭커 사전 학습을 통해 희박한 소스 로그와 제로 비용 프록시를 결합하는 위험에 강인한 전략을 제안합니다. TransNAS-Bench-101에서 본 제안은 심각한 최악의 경우 실패를 완화하여, 마이크로 자동인코딩에서는 최악 10% 순위를 290에서 43으로, 매크로 방 배치에서는 465에서 45로 낮추었습니다. 13개의 셀 공간 목표에 걸쳐, 평균 및 최악의 경우 성능 모두에서 프록시만 사용하는 랭커보다 10개의 목표에서 우수한 성능을 보이며, 동시에 경쟁력 있는 평균 성능도 유지합니다.
arXiv:2610.32104v1 발표 유형: 신규 초록: 변환기 아키텍처의 능력과 한계를 규명하기 위해 여러 가지 형식적 이론들이 개발되어 왔으며, 각 이론은 아키텍처의 서로 다른 특징을 포착하는 다양한 추상화 방식을 사용한다. 이러한 이론들은 기본 가정과 개념적 틀의 차이로 인해, 변환기가 어떤 과제를 쉽게 또는 어렵게 여길지에 대한 예측에서 서로 상충될 수 있다. 우리는 변환기 능력에 관한 일곱 가지 이론(Star-free, $\mathsf{AC}^0$, $\mathsf{TC}^0$, C-RASP, MPC, BAPO, 그리고 Sensitivity)을 정리하고, 이를 다양한 계산 구조를 포괄하는 여러 과제 세트에 걸쳐 공통적인 예측 매트릭스로 변환하였다. 또한 이 매트릭스를 완성하기 위한 새로운 이론적 결과를 제시한다. 이후 우리는 이론적…
arXiv:2610.33047v1 발표 유형: 신규 요약: 장기간 작동하는 어시스턴트는 종종 여러 번의 대화 전에 설정된 지시사항, 제약 조건 및 현재 목표를 포함한 후속 요청을 해석합니다. 따라서 핵심 과제는 단순히 문맥 길이가 아니라 검색 의도입니다. 예를 들어, “이전 구성 사용”과 같은 현재 쿼리는 관련 증거를 찾는 데 필요한 프로젝트, 엔터티, 버전 등의 용어를 생략할 수 있습니다. 장기 문맥 모델은 대화 기록을 재생하여 이러한 용어를 복구할 수 있지만, 반복적으로 이전 대화를 처리하는 비용을 부담해야 합니다. 기존의 검색 강화 생성(RAG) 방식은 비용이 더 저렴하지만, 정보가 충분한 쿼리라는 전제를 가집니다. 대화형 재작성 방식은 기록을 다시 읽거나 명시적으로 유지되는 텍스트 메모리에 의존합니다. 우리는 \emph{매개변수형 세션 상태}를 도입합니다
arXiv:2610.32638v1 발표 유형: 신규 초록: LLM 추론은 기업 및 대화형 애플리케이션의 핵심 서비스로 점점 더 많이 도입되고 있지만, 주권, 규정 준수, 지연 시간 및 자원의 지역적 근접성 요구 사항으로 인해 중앙 집중식 클라우드 배포의 적합성이 제한될 수 있습니다. 통신사는 이러한 제약을 해결하기 위해 지리적으로 분산된 컴퓨팅 및 네트워크 인프라를 제공합니다. 그러나 기존의 LLM 서비스 프레임워크는 밀접하게 연동된 데이터 센터를 위해 설계되어 있어, 지리적으로 분산되고 이질적인 자원을 조율하는 데 대한 지원이 제한적입니다. 우리는 통신사 인프라 위에서 서비스 수준 목표(SLO) 기반 LLM 추론을 위한 참조 아키텍처인 InferSlice를 제시하며, 여기에는 네트워크 슬라이싱, GPU 파티셔닝, 탄력적 서비스 및 관찰성이 통합되어 있습니다.
