arXiv:2610.31718v1 발표 유형: 신규 초록: 금융 거래 네트워크는 자연스럽게 다중그래프로 표현되며, 동일한 계좌 쌍 간의 반복된 거래는 서로 다른 엣지로 모델링된다. 최근에 제안된 다중그래프 신경망 아키텍처들은 이러한 구조를 명시적으로 활용하여 자금세탁방지(AML) 과제에서 높은 성능을 달성한다. 그러나 탐지를 회피하기 위해 거래 구조를 조작하는 적대자들에 대한 이들의 강인성은 아직 거의 탐구되지 않았다. 우리는 노드-엣지 인시던스 행렬을 이용한 다중그래프 신경망의 구조적 공격 및 적대적 학습을 위한 최초의 확장 가능한 프레임워크를 제시하며, 이러한 다중그래프 위에서 구조적 변동을 최적화하기 위해 투영된 경사 하강법과 투영된 무작위 블록 좌표 하강법을 적용한다.
arXiv:2610.31911v1 발표 유형: 신규 초록: 대규모 언어 모델(LLMs)이 점점 더 긴 시퀀스를 처리함에 따라, 주의 메커니즘은 주요 계산 병목으로 부각되고 있습니다. 희소 주의는 대부분 추론 단계에 초점을 맞추지만, 여전히 많은 방법들이 밀집형으로 학습되거나 희소 학습을 지원하지 못하며, 추가적인 복잡성으로 인해 희소성이 실제 월클럭 속도 향상으로 이어지기 어려워져 결국 실무에서는 밀집형 주의가 널리 사용되고 있습니다. 본 논문에서는 주의 학습이 후방 패스에 의해 주로 결정된다는 관찰에 기반한 전방 밀집·후방 희소 주의 방식인 LazyFlash를 제안합니다. LazyFlash는 전방 패스를 정확히 밀집형으로 유지하여, 학습된 모델이 vLLM과 같은 기존 시스템에서 아무런 변경 없이 서비스할 수 있는 표준 밀집형 모델로 남도록 합니다. 후방 패스에 대해서는 LazyFlash는 그라디언트-a를 제안합니다.
arXiv:2610.32215v1 발표 유형: 신규 초록: 현대 GPU 데이터 센터의 컴퓨팅 파워 증가로 인해 일부 산업 거대 기업들이 대규모 데이터를 활용하여 대형 언어 모델(LLM)을 훈련하고 배포할 수 있게 되었습니다. 그러나 이러한 모델과 그 학습 데이터의 엄청난 규모는 중앙 집중식 개발을 점점 더 지속하기 어렵게 만들고 있으며, 동시에 관련된 개인 데이터를 보유하되 이에 상응하는 인프라를 갖추지 못한 소규모 기관들을 배제하고 있습니다. 본 논문에서는 분산형 LLM 훈련에 관한 우리의 입장을 사전 학습 및 미세 조정 패러다임을 중심으로 정리하고, 연합 학습, 분할 학습 및 탈중앙화 접근법을 다루며, 이들 방법이 이질적인 하드웨어와 신뢰성 낮은 연결성을 가진 지리적으로 분산된 환경에서 어느 정도 준비되어 있는지 평가합니다. 이어서 우리는 {\em 통합}된 시스템을 제시합니다
마이크로소프트는 미국, 영국, 캐나다, 인도 전역의 최대 6만 명의 직원을 대상으로 자발적 퇴직 제안을 제공하고 있습니다. 직원들에게 보낸 메시지에서 마이크로소프트의 최고인사책임자 에이미 콜먼은, 회사가 추가적인 […] 없이 인력을 축소하려는 가운데 이번 조치를 통해 직원들이 “재정적 지원과 경력 설계 자원을 받으며 마이크로소프트를 떠날 수 있는 기회”를 얻게 된다고 밝혔습니다.
Long-running agents degrade as context piles up. Learn how offloading, summarization, skills, subagents, and memory keep your agent's context window focused.
인공지능 분야의 거대 기업 앤트로픽 PBC는 오늘 미국 증권거래위원회에 기업공개(IPO) 신청 서류를 제출했으며, 고도화된 인공지능에 대한 경고가 제기되는 가운데 앞으로 나올 인공지능 개발사 중 가장 규모가 큰 주식시장 데뷔를 앞두고 있다. 앤트로픽은 제출한 서류에서 […]에 상장할 계획이라고 밝혔다. 해당 게시물 ‘앤트로픽, 대규모 인공지능 IPO를 위한 S-1 서류 제출’은 실리콘앵글에 처음 게재되었다.
common, grammar: add recursive depth limit, make it a requirement (#31153) * common, grammar: add recursive depth limit, make it a requirement * catch more recursive functions * common : tidy up peg parser changes * grammar : reject candidates in a loop, without a depth limit The depth limit in llama_grammar_reject_candidates_for_stack counted the code points of a vocab token, so any token of 256 chars or more was always rejected under a grammar, such as the 512-space token of GLM-4.7-Flash or the long space tokens of Laguna-S-2.1. The rejection now walks the code points with its own stack of levels instead of recursing: there is no limit and no stack risk, whatever the length of a token from the GGUF, and the masks match master. * grammar : track rejected candidates as indices into the in
이 글에서는 Underdog가 발표한 Saluki 27B 모델을 소개합니다. 이 모델은 7.9 GB 크기의 2비트 양자화 Qwen3.8-27B 변형으로, ISTA-DASLab의 GSQ-RCO 방법을 기반으로 구축되었으며, 120개의 작업에 대한 BFCL v4 도구 호출 벤치마크에서 원래의 54 GB 풀 정밀도 모델을 능가한다고 주장됩니다. 다만 모든 성능 관련 결론은 해당 개발자의 발표에 근거한 것으로, 독립적인 검증은 이루어지지 않았습니다.
arXiv:2610.30355v1 Announce Type: new Abstract: Hallucinated citations make it harder to trace sources and verify the evidence behind scientific claims. Detecting them is difficult because bibliographic records can be incomplete or differ across source types and publication versions. A plausible match alone neither validates the citation nor establishes its underlying source. We introduce CiteResolve, a benchmark of 423 real-world hallucinated citations annotated for source recoverability. We further propose CiteAnchor, a source-aware grounding framework that adapts retrieval and field-level verification to each source type and separately determines citation validity and whether a unique source can be recovered. On an existing detection benchmark, CiteAnchor achieves 0.841 F1 with GPT-5.6
SageMaker 실시간 AI 엔드포인트가 Application Auto Scaling에 등록된 상태에서는 AWS CDK 또는 CloudFormation을 통해 인스턴스 유형 및 수량과 같은 구성 설정을 직접 업데이트하려고 하면 실패합니다. 본 문서에서는 사용자 정의 리소스 기반의 CDK 구성 방식을 제안하며, 엄격한 의존성 오케스트레이션을 통해 엔드포인트 구성과 확장/축소 전략을 원자적 단위로 처리하고, 수동 업데이트를 필요 없도록 구현합니다.
