제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
arXiv:2610.38069v1 발표 유형: 신규 초록: 단시간 푸리에 변환(STFT)은 긴 신호의 짧은 지속 시간 창에 대해 푸리에 변환을 계산하며, 이를 통해 주파수가 시간에 따라 어떻게 변화하는지를 특성화한다. 푸리에 변환 알고리즘, 특히 고속 푸리에 변환(FFT) 알고리즘은 병렬 컴퓨팅을 활용하기 위해 잘 발전되어 왔지만, 병렬 단시간 푸리에 변환 알고리즘의 성능을 이해하는 데 관한 연구는 아직 제한적이다. 본 연구에서는 FFT 기반 알고리즘과 준병렬 피드포워드 알고리즘 두 가지를 구현하고, 서로 비교 분석하였다. 그 결과, 낮은 동시성 환경에서는 준병렬 알고리즘이 실행 시간 면에서 우수하지만, …
arXiv:2610.31955v1 발표 유형: 신규 초록: Anthropic의 최근 연구에서는 자코비안 렌즈(J-lens, Gurnee 외, 2026)라는 새로운 해석 도구를 도입했습니다. 이 방법은 최첨단 언어 모델의 은닉 상태에서 작업 기억과 유사한 표현을 연상시키는 특성을 지닌 선형 방향을 식별해냈습니다. 그러나 이러한 특징들이 J-lens에 의해 탐지될 수 있는 기전적 특성이 무엇인지 명확히 밝혀지지는 않았습니다. 이에 따라 우리는 J-lens에 대한 수학적 이론을 제시하고, 이 이론이 특히 일관성 있는 특징들—즉, 공간적으로 정합적인 리아푸노프 모드와 유사하게 작용하는 방향들—을 우선적으로 식별함을 보여줍니다. 이러한 방향을 따라 작은 섭동이 층간에 걸쳐 증폭되며, 토큰 위치 간에도 대체로 일정하게 유지되고, 다양한 문맥에서도 일관성을 보입니다. 다만 w
arXiv:2610.34914v1 발표 유형: 신규 초록: 고성능 일반 행렬 곱셈(GEMM) 구현은 최고 성능을 달성하기 위해 GEMM을 신중히 선택된 타일로 분해하는 데 의존합니다. 우리는 특정 하드웨어와 입력 행렬의 형태에 맞는 최적의 타일 크기를 자동으로 식별하는 새로운 분석 모델인 Waypoint를 제시합니다. Waypoint는 메모리 계층 구조, 명령어 수준 병렬성 및 멀티스레딩과의 상호작용을 포함한 모든 아키텍처적 효과를 포착함으로써 주어진 타일 선택 시 달성 가능한 성능을 추정합니다. 이러한 추정치를 대리 변수로 활용하여 가능한 타일 크기의 공간을 탐색하고, 성능을 극대화하는 타일 크기를 식별합니다. 또한 Waypoint는 하드웨어 설계자가 실험적인 하드웨어 최적화에 대한 현실적인 성능을 추정하는 데에도 도움을 줍니다.
arXiv:2610.32189v1 발표 유형: 신규 초록: 비지도형 다변량 시계열 이상 탐지(AP)는 현재 관측값을 바탕으로 향후 이상 위험을 추정하여, 복잡한 시스템에서 선제적 개입과 유지보수를 위한 조기 경고 신호를 제공하는 것을 목표로 합니다. 기존의 비지도형 AP 방법들은 정해진 또는 무작위적인 섭동을 과거 창에 주입하여 비정상적인 미래 진화를 시뮬레이션하는 방식의 섭동 기반 패러다임을 따릅니다. 그러나 이러한 방법들은 서로 다른 변수와 맥락 간에 동일한 섭동을 공유하며, 결정론적 방식으로 과거에서 미래로의 진화를 학습합니다. 실제로 이상 현상의 진화는 변수와 상황에 따라 달라지며, 동일한 섭동이 한 변수나 맥락에서는 비정상적인 미래 동역학으로 증폭될 수 있는 반면, 다른 경우에는 정상적인 변동으로 흡수되기도 합니다.
arXiv:2610.33006v1 발표 유형: 신규 초록: 트랜스포머 기반 대규모 언어 모델(LLM)은 컨텍스트 크기가 증가함에 따라 상당한 연산 및 메모리 비용을 수반하므로, 추론 전에 컨텍스트를 더 짧은 표현으로 압축하는 방법이 필요합니다. 기존의 소프트 프롬프트 압축 방식은 일반적으로 목표 모델과 동일한 트랜스포머 백본을 사용하며, 압축된 표현을 생성하는 과정에서 상당한 지연 오버헤드가 발생합니다. 이로 인해 이러한 방식은 컨텍스트를 한 번 압축한 뒤 여러 쿼리에 걸쳐 재사용하는 오프라인 환경에만 제한됩니다. 우리는 Mamba 상태공간 모델(SSM)을 기반으로 한 플러그 앤 플레이형 온라인 컨텍스트 압축기인 Boa Compressor를 제안합니다. 이 압축기는 임의 길이의 컨텍스트를 단일 선형 시간 패스로 인코딩하여, 그 결과 얻은 표현을 바탕으로 우리가 조건부…
arXiv:2610.32803v1 발표 유형: 신규 초록: 대부분의 고성능 블록체인에서 사용되는 합의 프로토콜은, 검증자 구성원들의 서명을 하나로 묶는 쿼럼 인증서를 활용합니다. BLS와 같은 서명 체계는 전체 쿼럼의 서명을 단일한 짧은 서명으로 집약할 수 있어, 이러한 인증서의 크기를 작게 유지합니다. 그러나 대규모 양자 컴퓨터가 등장하면 이러한 체계는 무력화되며, 현재까지는 동등한 집약 크기와 집약 시간을 갖는 포스트-양자 체계는 알려져 있지 않습니다. 집약이 없을 경우, 각 인증서에는 쿼럼 구성원 한 명당 하나의 대형 포스트-양자 서명이 포함되므로, 현대의 합의 프로토콜들이 종종 요구하는 바와 같이 각 검증자가 인증서를 네트워크에 전송하는 것은 사실상 불가능해집니다. 이에 우리는 다수의 동시 제안자를 갖춘 포스트-양자 합의 프로토콜인 퀀텀 캐던스를 제안하며,
