본문으로 건너뛰기
AI NEWS.ccAI正在发生 未来正在更新
뉴스 북마크
THE JOURNAL
AI NEWS JOURNAL
AI, IN PERSPECTIVE

AI 뉴스 검색

제목, 요약, 본문을 검색해 흩어진 정보를 연결하세요.

발행 시간순

llama.cpp 릴리스

llama.cpp · b12038

ggml : AVX512 BF16로 clang-cl 빌드 수정 (#31276) * clang-cl 및 avx512bf16로 빌드할 때 immintrin.h 포함을 올바르게 제어 * ggml : clang-cl용 명시적 벡터 캐스팅 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12038/llama-b12038-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel (x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12038/llama-b12038-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12038/llama-b12038-xcframework.zip) **Linux:** - [Ubuntu x64 (CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12038/lla

진행 상황 및 관련 보도

llama.cpp 릴리스

llama.cpp · b12032

sycl: LevelZero 포함 파일/라이브러리를 위해 PkgConfig을 사용해 보세요 (#31076) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/llama-b12032-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12032/

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12029

mtmd : InternVL CLS 토큰 순서 수정 (#30886) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12029/llama-b12029-b

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12028

테스트: `test-llama-archs`에서 Gemma 4 활성화(#31401) * 테스트: `test-llama-archs`에서 Gemma 4 활성화 * 테스트: `test-llama-archs`에서 Gemma 4에 GQA 사용 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12028/llama-b12028-bin-ubuntu-x64.

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12027

llama : LFM3용 텐서 분할 활성화(#31431) 지원자: Claude Opus 5.5 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12027/llama-b12027-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12024

2차원 텐서로 리셰이핑하여 3차원 텐서 대신 사용함 (lfm sc용) (#30831) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12024/llama-b12024-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12022

서버: /v1/responses 엔드포인트가 extra_params를 수용하도록 수정 (#30959) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12022/llama-b12022-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/downloa

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12021

mtmd : 레터박스 여백 없이 Gemma 4 이미지 크기 조정(#30922) * mtmd : 레터박스 여백 없이 Gemma 4 이미지 크기 조정 * @ngxson의 제안 적용 --------- 공동 저자: Xuan-Son Nguyen **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12021/llama-b12021-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12021/llama-b12021-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12021/llama-b12021-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/do

진행 상황 및 관련 보도

llama.cpp 릴리스

llama.cpp · b12020

opencl: fwht 추가 (#31434) 공동 작성자: Li He **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b12020-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12020/llama-b1202

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12019

채팅 : reasoning_format none인 qwen3-coder에서 think block을 제거합니다(#31380) * 채팅 : reasoning_format none인 qwen3-coder 응답 형식에서 think block을 수용합니다. 지원자: Claude Opus 5.5 * 채팅 : qwen3-coder의 두 가지 think block 변형을 미리 정의합니다 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12019/llama-b12019-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12019/llama-b12019-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12019/llama-b12019-xcframework.zip) **Linu

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp · b12018

sycl: CPY에서 f32를 q2_0/q4_0/q5_0으로 반올림하는 문제 수정(#31120) **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-bin-macos-x64.tar.gz) - [iOS XCFramework](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-xcframework.zip) **Linux:** - [Ubuntu x64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/llama-b12018-bin-ubuntu-x64.tar.gz) - [Ubuntu arm64(CPU)](https://github.com/ggml-org/llama.cpp/releases/download/b12018/ll)

진행 상황 및 관련 보도

llama.cpp 릴리스

b12007

kv-cache : GPU에서 회전 상수를 유지 (#31073) * kv-cache : GPU에서 회전 상수를 유지 도움말: Codex * tests : 상주하는 KV 회전 버퍼 검증 도움말: Codex * kv-cache : 남아 있는 다중 디바이스 회전 작업 문서화 도움말: Codex * kv-cache : 레이어별 회전 버퍼 지원 도움말: Codex * kv-cache : 하이브리드 SWA 회전 입력 및 혼합 배치 확인 수정 도움말: Codex * models : mistral-large4와 dflash에서 레이어별 회전 사용 * tests: 회전 버퍼 테스트 삭제 --------- 공동 작성자: Pascal **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12007/llama-b12007-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](ht

진행 상황 및 관련 보도
llama.cpp 릴리스

b12005

opencl: q2_0 초기 지원 추가 (#31340) * opencl: q2_0 AOS 이동 추가 공동 작성자: Shaofei Qi 보조 작성자: Codex * opencl: q2_0 SOA 이동 및 타일링된 mm 추가 공동 작성자: Shaofei Qi 보조 작성자: Codex * opencl: adreno용 q2_0 noshuffle gemm/gemv 추가 보조 작성자: Codex * opencl: adreno용 q2_0 dp4a 추가 * opencl: adreno의 q2_0 디코딩 및 좁은 배치 최적화 --------- 공동 작성자: Li He **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b12005/llama-b12005-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/download/b12005/llama-b12005-bin-macos-x64.tar.g

진행 상황 및 관련 보도
llama.cpp 릴리스

b11985

metal : 더 빠른 MXFP4 매트-벡터, 단항/이항/GLU를 위한 전체 스레드그룹 (#31075) * metal : 스레드그룹 조회 테이블 대신 fp16 비트 트릭으로 fp4 값을 디코드하고, 패킹된 니블을 정렬된 32비트 워드로 로드합니다. 이제 커널은 더 이상 스레드그룹 메모리를 사용하지 않습니다. * metal : 전체 스레드그룹을 이용해 연속적인 단항 및 이항 연산을 시작합니다. 기존에는 연속 단항 경로와 행 브로드캐스트 이항 경로가 각각 스레드그룹당 하나의 스레드를 사용했습니다. 이제 스레드그룹당 최대 256개의 스레드를 사용하며, 꼬리 부분에 대한 범위 검사를 적용합니다. * metal : GLU 행을 스레드그룹 간에 분할합니다. 기존에는 한 개의 GLU 행이 하나의 스레드그룹에서 처리되어, 단일 행 디코드 시 전체 연산에 대해 단일 스레드그룹만 사용했습니다. 이제 각 행을 최대 256개의 스레드를 갖는 여러 스레드그룹으로 분할합니다. **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘

진행 상황 및 관련 보도

llama.cpp 릴리스

b11982

hexagon: UPSCALE 연산 지원 (#31331) * hex-upscale: 기본 업스케일 연산(완전히 벡터화되지 않음) * hex-upscale: 가장 가까운 2배, 4배 및 이방성 4배 업스케일 최적화 * hex-upscale: 연속적이지 않은 행과 차원 축소 기능 추가 * hex-upscale: 스칼라 스테이징 대신 vgather 사용 * hex-upscale: 모든 커널 선택 로직을 호스트로 이전하고, 주석 검토 및 정리 작업 수행 * 테스트: qwen3-vl 이미지→텍스트 시나리오를 포괄하는 순열된 UPSCALE 테스트 추가 **웹사이트:** - **인증서:** - **macOS/iOS:** - [macOS 애플 실리콘(arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11982/llama-b11982-bin-macos-arm64.tar.gz) - macOS 애플 실리콘(arm64, KleidiAI 활성화) [비활성화](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS 인텔(x64)](https://github.com/ggml-org/llama.cpp/releases/downloa

진행 상황 및 관련 보도

llama.cpp 릴리스

llama.cpp가 b11871 버전을 출시했습니다: 서비스 크래시를 방지하기 위해 JSON 중첩 깊이 제한을 추가했습니다.

llama.cpp의 b11871 버전에서는 핵심 보안 수정 사항을 도입하여, 요청에 포함된 JSON 중첩 레벨에 대해 128레벨의 강제 제한을 적용함으로써, 깊은 재귀 파싱으로 인한 HTTP 스레드 스택 오버플로와 서비스 크래시를 방지합니다(맥OS에서는 SIGBUS, 리눅스에서는 SIGSEGV가 발생). 이 정책은 챗 인터페이스의 다양한 입력 시나리오를 포괄하며, 모든 경우에 HTTP 400 오류를 일관되게 반환합니다.

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp가 b11870 버전을 출시하여 DeepSeek-V4.1-Flash 모델을 정식으로 지원합니다.

llama.cpp는 버전 b11870에서 DeepSeek-V4.1-Flash(deepseek41) 모델을 지원하며, Engram 아키텍처를 기반으로 KV 캐시 계산 간소화, BF16 정밀도를 MXFP8로 대체, 인그래프 내 행 수집 등 여러 하위 수준 최적화를 수행했습니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 포괄하는 다중 플랫폼 바이너리 빌드를 동시에 제공합니다.

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp가 b11869 버전을 출시했습니다: Jinja 템플릿 함수의 매개변수 처리를 수정하고, 다중 플랫폼 바이너리 지원을 추가했습니다.

llama.cpp 프로젝트는 빌드 버전 b11869를 출시했으며, 주요 수정 사항으로 Jinja 템플릿의 select 및 selectattr 함수에서 인수 해석 로직을 개선했고, macOS, Linux, Windows, Android, iOS 및 openEuler 등 수십 가지 하드웨어와 백엔드 조합에 대한 미리 컴파일된 바이너리 패키지를 제공합니다.

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp가 b11868 버전을 출시했습니다: Hexagon NPU의 멀티코어 플래시 어텐션 지원을 강화하여 전 플랫폼 컴파일 및 빌드를 지원합니다.

llama.cpp v2.45.0(태그 b11868)이 정식으로 출시되었으며, 핵심 업데이트로는 Hexagon 백엔드에 KV-head 분할 메커니즘을 도입하여 다중 코어 HMX Flash Attention의 성능을 최적화하고, FA 분할 제어 플래그를 통일했습니다. 동시에 macOS, Linux, Windows, Android, iOS 및 openEuler 등 모든 플랫폼용 바이너리 패키지를 제공하며, CUDA 12/13, Vulkan, ROCm, OpenVINO, SYCL, Snapdragon(Adreno+Hexagon) 등 다양한 백엔드 지원을 포함합니다.

진행 상황 및 관련 보도
llama.cpp 릴리스

llama.cpp가 b11867 버전을 출시했습니다: 서버 측 엔트리포인트가 재구성되었으며, 다중 플랫폼과 이기종 가속 백엔드를 전면 지원합니다.

llama.cpp가 GitHub에서 b11867 버전을 공식 출시했으며, 핵심 변경 사항으로는 서버 측 엔트리포인트의 재구성(PR #31113)과 server_role 메커니즘의 추가가 포함됩니다. 또한 macOS, Linux, Windows, Android, iOS 및 openEuler를 지원하는 40여 개의 사전 컴파일된 바이너리 패키지를 제공하며, CPU, CUDA(12.4/12.8/13.4), Vulkan, ROCm 10.0, OpenVINO, SYCL(FP16/FP32), Snapdragon(Adreno+Hexagon) 등 다양한 하드웨어 백엔드를 지원합니다.

진행 상황 및 관련 보도