제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.
llama.cpp의 b11871 버전에서는 핵심 보안 수정 사항을 도입하여, 요청에 포함된 JSON 중첩 레벨에 대해 128레벨의 강제 제한을 적용함으로써, 깊은 재귀 파싱으로 인한 HTTP 스레드 스택 오버플로와 서비스 크래시를 방지합니다(맥OS에서는 SIGBUS, 리눅스에서는 SIGSEGV가 발생). 이 정책은 챗 인터페이스의 다양한 입력 시나리오를 포괄하며, 모든 경우에 HTTP 400 오류를 일관되게 반환합니다.
llama.cpp는 버전 b11870에서 DeepSeek-V4.1-Flash(deepseek41) 모델을 지원하며, Engram 아키텍처를 기반으로 KV 캐시 계산 간소화, BF16 정밀도를 MXFP8로 대체, 인그래프 내 행 수집 등 여러 하위 수준 최적화를 수행했습니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 포괄하는 다중 플랫폼 바이너리 빌드를 동시에 제공합니다.
llama.cpp v2.45.0(태그 b11868)이 정식으로 출시되었으며, 핵심 업데이트로는 Hexagon 백엔드에 KV-head 분할 메커니즘을 도입하여 다중 코어 HMX Flash Attention의 성능을 최적화하고, FA 분할 제어 플래그를 통일했습니다. 동시에 macOS, Linux, Windows, Android, iOS 및 openEuler 등 모든 플랫폼용 바이너리 패키지를 제공하며, CUDA 12/13, Vulkan, ROCm, OpenVINO, SYCL, Snapdragon(Adreno+Hexagon) 등 다양한 백엔드 지원을 포함합니다.
llama.cpp가 GitHub에서 b11867 버전을 공식 출시했으며, 핵심 변경 사항으로는 서버 측 엔트리포인트의 재구성(PR #31113)과 server_role 메커니즘의 추가가 포함됩니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 지원하는 40여 개의 사전 컴파일된 바이너리 패키지를 제공하며, CPU, CUDA(12.4/12.8/13.4), Vulkan, ROCm 10.0, OpenVINO, SYCL(FP16/FP32), Snapdragon(Adreno+Hexagon) 등 다양한 하드웨어 백엔드를 지원합니다.
llama.cpp v.b11866 버전에서는 Metal 백엔드에 존재하던 구식 src1의 2의 거듭제곱 형태 AMAX 스케일링 메커니즘을 제거하고, 대신 계산 그래프 내에서 전문가 토큰별로 보다 세밀한 amax 스케일링을 적용하여 MoE 하에서 프로젝션 활성화 값이 f16 표현 범위 내에 유지되도록 보장합니다. 동시에 관련된 이단계 축약 핵심 함수, F32 정밀도 스케줄링 및 경계 위반 테스트 케이스도 함께 삭제되었습니다.
llama.cpp v.b11861은 minimax-m3 모델에서 NVFP4/MXFP8 양자화 시 스케일 텐서가 계산 그래프에 주입되지 않아 발생하던 가중치 왜곡 문제를 해결하여 ‘토큰 수프’ 현상과 잔차 소멸을 방지합니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 지원하는 다중 플랫폼 바이너리 빌드를 함께 제공합니다.
