제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
llama.cpp는 버전 b11870에서 DeepSeek-V4.1-Flash(deepseek41) 모델을 지원하며, Engram 아키텍처를 기반으로 KV 캐시 계산 간소화, BF16 정밀도를 MXFP8로 대체, 인그래프 내 행 수집 등 여러 하위 수준 최적화를 수행했습니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 포괄하는 다중 플랫폼 바이너리 빌드를 동시에 제공합니다.
llama.cpp 프로젝트는 빌드 버전 b11865를 출시했으며, 핵심 변경 사항으로는 RDMA 수신 로직에 메모리 경계 검사를 추가하고(PR #30399), CUDA 13.4, ROCm 10.0, Vulkan, OpenVINO, SYCL 및 퀄컴 스냅드래곤(CPU+Adreno+Hexagon)의 풀스택 이기종 컴퓨팅 백엔드를 포함해 하드웨어 가속 지원을 대폭 확장한 점이 있습니다. 또한 macOS용 KleidiAI 지원과 openEuler 빌드는 명시적으로 DISABLED로 표시되었습니다.
llama.cpp v.b11861은 minimax-m3 모델에서 NVFP4/MXFP8 양자화 시 스케일 텐서가 계산 그래프에 주입되지 않아 발생하던 가중치 왜곡 문제를 해결하여 ‘토큰 수프’ 현상과 잔차 소멸을 방지합니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 지원하는 다중 플랫폼 바이너리 빌드를 함께 제공합니다.
