제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
vLLM 시맨틱 라우터가 27B 규모의 오픈 웨이트 멀티모달 의사결정 모델인 d3-ultra를 출시했습니다. 이 모델은 텍스트, 이미지 및 비디오를 한 번에 처리한 뒤 모든 답변에 대한 확률을 반환하며, 팀의 SR-Text 테스트에서 87.2점을 기록했습니다. 해당 게시물 “vLLM 시맨틱 라우터, 27B 규모의 오픈 멀티모달 의사결정 모델 d3-ultra 출시”는 MarkTechPost에 처음 게재되었습니다.
바이두는 MIT 라이선스를 적용한 3B 규모의 OCR 모델인 ‘Unlimited OCR 2’를 출시했으며, 이 모델은 한 번의 요청으로 수백 페이지에 달하는 문서를 처리할 수 있습니다. 해당 모델의 SR-SWA 주의 메커니즘은 단계별 디코딩 비용을 거의 일정하게 유지하며, MarathonDocBench에서 77.1점의 성능을 기록했습니다. 본 글은 ‘바이두, 수백 페이지 문서 파싱을 위한 Unlimited OCR 2 오픈소스화’라는 제목으로 MarkTechPost에 처음 게재되었습니다.
arXiv:2610.31955v1 발표 유형: 신규 초록: Anthropic의 최근 연구에서는 자코비안 렌즈(J-lens, Gurnee 외, 2026)라는 새로운 해석 도구를 도입했습니다. 이 방법은 최첨단 언어 모델의 은닉 상태에서 작업 기억과 유사한 표현을 연상시키는 특성을 지닌 선형 방향을 식별해냈습니다. 그러나 이러한 특징들이 J-lens에 의해 탐지될 수 있는 기전적 특성이 무엇인지 명확히 밝혀지지는 않았습니다. 이에 따라 우리는 J-lens에 대한 수학적 이론을 제시하고, 이 이론이 특히 일관성 있는 특징들—즉, 공간적으로 정합적인 리아푸노프 모드와 유사하게 작용하는 방향들—을 우선적으로 식별함을 보여줍니다. 이러한 방향을 따라 작은 섭동이 층간에 걸쳐 증폭되며, 토큰 위치 간에도 대체로 일정하게 유지되고, 다양한 문맥에서도 일관성을 보입니다. 다만 w
arXiv:2610.33475v1 발표 유형: 신규 초록: 클라우드 데이터센터 전반에 걸쳐 기반 대규모 언어 모델(LLM)이 광범위하게 배치됨에 따라, 무상태 딥러닝에서 분산형 메모리 집약적 생성 워크로드로의 근본적인 패러다임 전환이 이루어지고 있다. 그러나 엄격한 서비스 수준 목표(SLO) 하에서 대규모 기반 모델을 서비스하는 과정에서는 중요한 물리적 및 시스템 병목 현상이 드러난다. 이러한 과제에는 지속적인 고대역폭 메모리(HBM) 장벽, 연산 중심의 프리필링과 메모리 대역폭 중심의 디코딩 간의 운영 비대칭성, 폭발적으로 증가하는 키-값(KV) 캐시, 부담스러운 서버리스 콜드 스타트, 그리고 하드웨어 신뢰성 취약점 등이 포함된다. 기존 문헌 리뷰들은 여전히 계층별로 분리되어 있어, 저수준 가속기 가상화와 클러스터를 서로 분리하고 있다.
arXiv:2610.32412v1 발표 유형: 신규 초록: 재귀적 대규모 언어 모델(LLM) 에이전트는 분해, 실행 및 환경 피드백을 통해 장기적인 목표를 달성하는 과제를 해결한다. 그러나 원자적 하위 작업을 생성한 뒤에는, 익숙한 명령어를 실행 가능한 행동으로 변환하기 위해 다시 동일한 대규모 모델을 호출하는 경우가 많다. 우리는 고수준 계획은 과제마다 특화되어 있는 반면, 최하위 수준의 행동 구체화는 과제 간에 반복적으로 사용되며 환경에서 허용된 행동들과 비교·검증할 수 있다는 점을 관찰하였다. 이에 우리는 리프스킬(LeafSkill)을 제안한다. 이는 의미적으로 관련된 구체화 경험을 검색하고, 행동 템플릿을 현재 객체와 허용 가능한 행동에 결합하며, 경량형 1.7B 선택기를 활용해 결합된 행동을 선택하거나 변경되지 않은 하위 작업을 원래 에이전트에게 위임하는 외부 재사용 계층이다. 기술들은 외부에 남아 있다…
arXiv:2610.34436v1 발표 유형: 신규 초록: 루프형 언어 모델은 토큰당 레이어 블록을 $R$번 실행하므로, 해당 모델의 키-값(KV) 캐시는 각 반복 레이어마다 $R$개의 평면을 저장하며, 자기-투기적 디코딩(몇 개의 루프로 초안을 생성하고 $R$개 모두로 검증)에서는 이 모든 평면을 읽어들입니다. 우리는 접두사 키와 값이 후반부에서 중요한 역할을 한다는 점을 발견했습니다. 동일한 섭동 크기에서도, 루프 25~32는 루프 2~9에 비해 $e^{15.0}$(Huginn-0125) 및 $e^{12.8}$(Raven-Llama) 배 더 민감하며, 각 루프마다 평면들은 기하급수적으로 마지막 평면에 접근하여, 각각 0.88과 0.81에 도달합니다. 이때 가장 깊은 평면 하나만으로 충분한지 여부는 후반부 평면들이 얼마나 성숙했는지에 따라 달라집니다. Raven에서는 이를 저장하는 것만으로도 bf16에서 fp32로 변경한 경우와 구별되지 않으며, Huginn에서는 전체 오차의 74%를 단 1%의 위치가 차지합니다. 우리는 이를 RIPE로 발전시켰으며, RIPE는 가장 깊은
arXiv:2610.33047v1 발표 유형: 신규 요약: 장기간 작동하는 어시스턴트는 종종 여러 번의 대화 전에 설정된 지시사항, 제약 조건 및 현재 목표를 포함한 후속 요청을 해석합니다. 따라서 핵심 과제는 단순히 문맥 길이가 아니라 검색 의도입니다. 예를 들어, “이전 구성 사용”과 같은 현재 쿼리는 관련 증거를 찾는 데 필요한 프로젝트, 엔터티, 버전 등의 용어를 생략할 수 있습니다. 장기 문맥 모델은 대화 기록을 재생하여 이러한 용어를 복구할 수 있지만, 반복적으로 이전 대화를 처리하는 비용을 부담해야 합니다. 기존의 검색 강화 생성(RAG) 방식은 비용이 더 저렴하지만, 정보가 충분한 쿼리라는 전제를 가집니다. 대화형 재작성 방식은 기록을 다시 읽거나 명시적으로 유지되는 텍스트 메모리에 의존합니다. 우리는 \emph{매개변수형 세션 상태}를 도입합니다
사이버보안 업계는 강력한 최첨단 AI 모델이 양날의 검임을 깨닫고 있습니다. 기업들은 이러한 모델을 활용해 소스 코드와 시스템 구성의 취약점을 그 어느 때보다 빠르게 식별할 수 있습니다. 그러나 알고 보니 악성 행위자들도 이와 같은 작업을 수행할 수 있습니다. AI 모델이 사이버보안 분야를 새로운 차원으로 전환시킨 대표적인 사례는 다음과 같습니다 […] 본 글은 ‘양날의 검: AI가 시스템 보호를 한층 더 정교하게 만드는 동시에 악성 행위자들에게 새로운 취약점을 열어주다’라는 제목으로 SiliconANGLE에 처음 게재되었습니다.
Data Culture는 AI 분석 도입 초기의 정확도를 0%에서 94.7%로 끌어올린 3단계 평가 프레임워크를 구축했습니다.
Okta는 dbt를 단일 진실의 원천으로 활용하여 AI 에이전트의 컨텍스트 관리 방식을 재구축했습니다.
dbt Wizard의 디자이너와 엔지니어링 리드가, 코드가 프로덕션에 도달하기 전에 에이전트가 자신의 작업을 어떻게 검증하는지 보여줍니다.
dbt v2는 어댑터를 통합하고 파싱 속도를 높이며, 사람과 AI가 사용할 수 있도록 manifest.json을 더 작고 쿼리 가능한 파일로 대체합니다.
지난 3년간 기업용 인공지능 대화는 주로 모델이 무엇을 말할 수 있는지에 초점이 맞춰져 있었습니다. 앞으로 3년은 시스템이 허용되는 행동이 무엇인지에 관한 논의가 될 것입니다. 이는 더 나은 모델만으로는 해결되지 않는, 훨씬 더 어려운 문제입니다. 오는 10월 28일(수)에는 블룸버그 테크 이벤트: Building the […] 행사에 참석하기 위해 보스턴에 방문합니다. 기사 원문: “기업들이 AI 실험에서 자율 운영으로 전환하는 과정에서 주목해야 할 점”은 SiliconANGLE에 처음 게재되었습니다.
오늘은 워크스테이션용 ASRock의 고급형 Radeon AI 추론 카드인 Creator Radeon AI Pro R9700을 살펴봅니다. 32GB의 RAM과 1,700달러의 가격대를 갖춘 이 카드는 로컬 AI 추론을 위한 워크스테이션을 구성하는 데 있어 매우 합리적인 선택입니다. 본 글 ‘ASRock Creator Radeon AI Pro R9700 리뷰: AMD 스타일의 워크스테이션 추론’은 ServeTheHome에 처음 게재되었습니다.
Anthropic의 S-1 서류에 따르면, 10만 달러 이상의 고객 중 절반 이상이 현재 Claude 플랫폼과 자사 애플리케이션을 모두 사용하고 있으며, 이는 기업 고객의 충성도를 높이는 데 기여하는 아마존식 교차 판매 전략을 연상시킵니다.
스페이스X는 AI 칩 및 관련 데이터센터 장비 구매를 위한 약 400억 달러 규모의 자금 조달에 대해 법적 구속력 있는 계약을 체결했다고 월요일 규제 당국에 제출한 서류에서 밝혔다. 스페이스X는 성명을 통해 이를 사상 최대 규모의 GPU 관련 확정 자금 조달이라고 평가했다.
Nace AI는 Drex for Search를 출시하며, 자사의 Drex 의사결정 모델을 AI 에이전트의 문서 검색에 적용했습니다. Nace는 BrowseComp-Plus에서 12.6회의 검색 호출로 92.05%의 성과를 기록했으며, OfficeQA Pro에서는 에이전트의 전환 횟수가 더 적었습니다. 이 글은 MarkTechPost에 처음 게재되었습니다.
AI 팩토리는 지금까지 만들어진 운영 환경 중에서도 가장 기술적으로 복잡한 곳들 중 하나입니다. 수십만 개의 GPU, NVIDIA 스펙트럼-X 이더넷...
Verisk는 AI 대응 가능성을 높이기 위해 메인프레임에서 dbt로 이전하는 방식으로 수십 년간의 보험 데이터를 현대화했습니다.
DocuSign은 Claude Code, dbt Agent Skills, dbt MCP 및 dbt v2를 하나의 워크플로우로 통합하고, 생산성 향상 50%를 측정했습니다.
