제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
arXiv:2610.32237v1 발표 유형: 신규 초록: 현대 금융 시장에서 대규모 거래의 4분의 3 이상은 전통적인 인간 트레이더보다 높은 정밀도와 속도를 달성하기 위해 고급 거래 전략에 기반한 알고리즘 트레이딩에 의해 실행된다. 가격 기반 지표에 중점을 두던 기존 전략들은 사회적 감정, 정치적 불안정성 또는 갑작스러운 경제 변화와 같은 현실 세계의 사건들로 인해 발생하는 시장의 역동성을 포착하는 데 한계가 있다. 딥 강화 학습(DRL)의 부상과 데이터의 확보에 따라, 이러한 외부 요인들을 거래 전략에 통합할 수 있는 보다 효율적인 알고리즘이 요구되고 있다. DRL은 실제 상황을 시뮬레이션하고 복잡한 의사결정을 단순화하는 데 잠재력을 보여왔으며, DRL 에이전트는 자동으로
arXiv:2610.31894v1 발표 유형: 신규 요약: 최근의 희소 자동부호기(SAE)는 대규모 언어 모델(LLM)의 표현을 해석 가능한 특징으로 분해하여, 인코딩된 지식을 정밀하게 읽어내고 제어할 수 있도록 합니다. 그러나 기존 SAE는 각 특징을 독립적인 단위로 취급하는 반면, 실제 세계의 지식은 종종 계층적으로 분류되어 있습니다. 그 결과, 읽어내기 과정에서는 분류학적 일관성이 보장되지 않으며, 제어 또한 수정 범위를 구체적으로 지정할 만큼 세분화되지 못합니다. 이에 우리는 TaxoSAE를 제안합니다. TaxoSAE는 is-a(상위-하위 관계)를 기반으로 한 분류학적 정보를 SAE의 특징 공간에 명시적으로 인코딩합니다. TaxoSAE는 각 분류 수준마다 하나씩 구성된 여러 개의 SAE로 이루어진 계층적 구조를 모사하며, 특정 개념이 활성화될 때마다 해당 개념이 작동하도록 학습시키는 분류학적 정렬 손실을 도입합니다.
arXiv:2610.32389v1 발표 유형: 신규 초록: 롤아웃에서 학습으로의 궤도 전송은 대규모 언어 모델 강화학습(RL)에서 학습 품질과 시스템 효율성 모두에 영향을 미칩니다. 배치 전체에 걸친 학습 요구사항을 강제할 경우, 완료된 궤도의 수용이 지연되어 아키텍처의 구식화가 심화됩니다. 이는 분산 파이프라인 처리와 동일 장소에서의 실행 간의 추가적인 파라미터 버전 격차로 나타납니다. 수용 외에도, 데이터 접근과 학습 소비 간의 불일치로 인해 대규모 궤도 페이로드를 전송할 때 중복 이동과 불필요한 대기 시간이 발생합니다. 우리는 세 가지 설계를 통해 롤아웃에서 학습으로의 경로를 조정하는 KnitTrans 시스템을 제안합니다. 첫째, 제약을 유지하는 미니배치 수용 방식을 통해 초기 미니배치 구성에 대한 유연성을 제공합니다.
arXiv:2610.32241v1 발표 유형: 신규 초록: 전통적인 휴리스틱 방법들은 공간 활용도와 레이아웃의 콤팩트성 등 3D 박스 패킹의 핵심 목표에 대해 인위적으로 설계된 규칙 기반 논리를 바탕으로 오랜 경험을 축적해 왔습니다. 그러나 이들 방법은 일반화 능력과 동적 시나리오에 대한 적응력에서 명백한 한계를 보입니다. 강화 학습의 공간 탐색 능력과 확산 학습의 데이터 분포 모델링 능력을 통합한 확산 강화 학습은 행동 분포 모델링 및 의사결정 준수 제약 조건 측면에서 일정한 성과를 거두었습니다. 그럼에도 불구하고 3D 박스 패킹에서의 공간 위상 구조에 대한 인식 부족과 레이아웃 최적화 능력의 제한 등의 문제는 여전히 남아 있습니다.
arXiv:2610.32583v1 발표 유형: 크로스 요약: 다중에이전트 결정론적 GLP(madGLP)는 비동기식 메시지 전달만을 통해 상호작용하는 에이전트들로서 그라스루츠 로직 프로그램(GLP)을 실행하며, 모든 발송된 메시지는 결국 전달된다는 공정한 전달을 가정합니다. 각 에이전트는 사용자의 공개키로 식별되는 개인의 스마트폰에서 실행됩니다. 그라스루츠 플랫폼은 네트워크 외에는 어떠한 글로벌 자원도 의존하지 않으므로, 에이전트들은 블루투스 저에너지, 로컬 네트워크, 그리고 NAT 뒤에서 인터넷을 통해 누구나 운영할 수 있는 렌더부 서버를 이용해 서로 연결되어야 합니다. 이러한 네트워크가 madGLP에 요구하는 바와, 네트워크가 플랫폼에 요구하는 바는 아직 명시되지 않았습니다. 우리는 madGLP 아래의 네트워킹 계층을 구체적으로 규정합니다. GLP에서 수행 가능한 모든 작업은 GLP에서 이루어지며, 이 계층은 단지
arXiv:2610.31687v1 공지 유형: 신규 요약: 대규모 언어 모델은 설문조사와 같은 목적으로 인간 행동을 시뮬레이션하고 탐구하는 데 점점 더 많이 활용되고 있습니다. 이러한 응용에서 핵심적인 성질은 출력이 분포적 정합성을 만족한다는 점입니다. 즉, 모델의 출력 분포가 특정 기준(이 경우 인간) 분포와 일치해야 합니다. 분포적 정합성을 달성하는 데 있어 큰 장애물은 소규모 학습 데이터로부터의 일반화입니다. 본 연구에서는 (1) LLM을 어떻게 분포적으로 정합시킬 수 있는지, 그리고 (2) 정합된 LLM이 미처 보지 못한 샘플들 및 관련 없는 주제와 과제들로까지 어떻게 일반화될 수 있는지를 탐구합니다. 두 개의 대규모 벤치마크를 사용하여, LLM이 실제로 분포적 정합성을 달성할 수 있으며 동일한 도메인 내의 미처 보지 못한 질문들에 대해서도 일반화 가능하다는 사실을 확인했습니다. 주제 간 일반화는 각 주제 간의 관계에 따라 달라집니다(예:
arXiv:2610.31810v1 발표 유형: 신규 초록: 심지어 꼼꼼히 교정된 논문이라도 증명 과정이나 명시된 가정에 작은 허점이 남아 있을 수 있습니다. 우리는 PaperFormalizer를 소개합니다. 이는 Lean 기반의 에이전트형 파이프라인으로, 저자가 자신의 논문에서 이러한 허점을 찾아 메우고 각 논문을 Lean 검증 버전으로 전환할 수 있도록 지원합니다. LaTeX 소스를 기반으로 PaperFormalizer는 논문을 진술들의 의존 관계 그래프로 변환한 뒤, 각 자연어 표현을 대상으로 진실성, 모호성 및 정확성을 검토하고, 이후 Lean에서 Mathlib, 선택적 도메인 라이브러리 및 저자의 개인 도구 세트를 활용해 해당 진술들을 형식화하고 증명합니다. 어떤 진술이 무엇을 의미하는지, 그리고 결과에 존재하는 형식화상의 허점을 어떻게 가장 잘 해결해야 하는지는 오직 저자만이 알고 있습니다. 따라서 이 파이프라인은 중단되어 저자에게 요청합니다.
arXiv:2610.31911v1 발표 유형: 신규 초록: 대규모 언어 모델(LLMs)이 점점 더 긴 시퀀스를 처리함에 따라, 주의 메커니즘은 주요 계산 병목으로 부각되고 있습니다. 희소 주의는 대부분 추론 단계에 초점을 맞추지만, 여전히 많은 방법들이 밀집형으로 학습되거나 희소 학습을 지원하지 못하며, 추가적인 복잡성으로 인해 희소성이 실제 월클럭 속도 향상으로 이어지기 어려워져 결국 실무에서는 밀집형 주의가 널리 사용되고 있습니다. 본 논문에서는 주의 학습이 후방 패스에 의해 주로 결정된다는 관찰에 기반한 전방 밀집·후방 희소 주의 방식인 LazyFlash를 제안합니다. LazyFlash는 전방 패스를 정확히 밀집형으로 유지하여, 학습된 모델이 vLLM과 같은 기존 시스템에서 아무런 변경 없이 서비스할 수 있는 표준 밀집형 모델로 남도록 합니다. 후방 패스에 대해서는 LazyFlash는 그라디언트-a를 제안합니다.
arXiv:2610.32803v1 발표 유형: 신규 초록: 대부분의 고성능 블록체인에서 사용되는 합의 프로토콜은, 검증자 구성원들의 서명을 하나로 묶는 쿼럼 인증서를 활용합니다. BLS와 같은 서명 체계는 전체 쿼럼의 서명을 단일한 짧은 서명으로 집약할 수 있어, 이러한 인증서의 크기를 작게 유지합니다. 그러나 대규모 양자 컴퓨터가 등장하면 이러한 체계는 무력화되며, 현재까지는 동등한 집약 크기와 집약 시간을 갖는 포스트-양자 체계는 알려져 있지 않습니다. 집약이 없을 경우, 각 인증서에는 쿼럼 구성원 한 명당 하나의 대형 포스트-양자 서명이 포함되므로, 현대의 합의 프로토콜들이 종종 요구하는 바와 같이 각 검증자가 인증서를 네트워크에 전송하는 것은 사실상 불가능해집니다. 이에 우리는 다수의 동시 제안자를 갖춘 포스트-양자 합의 프로토콜인 퀀텀 캐던스를 제안하며,
arXiv:2610.30949v1 발표 유형: 신규 요약: 우리는 총 320B 파라미터(활성화된 파라미터는 15B)를 갖춘 희소 혼합전문가(MoE) 기반의 에이전트형 기반 모델인 IQuest-Q1을 제시합니다. IQuest-Q1은 세 단계의 프로세스를 통해 개발되었습니다: (1) 안정적이고 효율적인 사전 학습으로, 스테이블 스플릿노름, Muon 및 muP를 두 단계 커리큘럼과 결합하며, 두 번째 단계에서는 코딩 데이터 혼합 비율을 높여 안전한 학습률과 최적 학습률 간의 넓은 안정성 여유를 유지합니다; (2) 세밀한 중간 학습 단계에서는 도메인과 형식 전반에 걸쳐 데이터 혼합을 확대하고 문맥 범위를 점진적으로 확장합니다; 그리고 (3) 다중 스캐폴드와 다중 버전 사후 학습을 통해 SFT, 도메인 특화 RL, MOPD 등을 다양한 스캐폴드에서 결합하여 상호 보완적인 학습 신호를 통합하고 에이전트형 코딩 역량을 강화합니다.
arXiv:2610.30296v1 발표 유형: 신규 초록: 대규모 언어 모델(LLMs)은 저자원 및 다국어 NLP에 대한 연구를 가속화했지만, 이들이 공평한 연구 환경을 조성하는 데 얼마나 효과적인지는 아직 명확히 규명되지 않았습니다. 우리는 2020년부터 2025년까지 출판된 1,158편의 동료 심사 오픈 액세스 논문을 분석하여, 저자원 언어(LRLs)에 대한 연구 관심도와 언어 및 사용자 집단 전반에 걸친 표현 수준을 검토합니다. 출판 건수 외에도 언어적 포용성을 평가하기 위해, 우리는 언어적 포용성 프레임워크(LIF)를 도입합니다. 이는 연구 성장, 표현 확대, 표현 지속성, 그리고 분포적 형평성 등 네 가지 차원에서 언어적 포용성을 측정하는 다차원적 체계입니다. 연간 출판물 수는 52건에서 415건으로 5.4배 증가했으며, ACL Antholo
