搜索 AI 资讯

检索标题、摘要与正文，把分散的信息连起来。

2026-11-01

llama.cpp 发布15:41

llama.cpp · b12031

opencl：添加对iq3的初步支持（#31338）* opencl：添加iq3_s AOS移动，由Codex协助* opencl：添加iq3_s SOA移动及分块矩阵乘法，由Codex协助* opencl：为adreno添加iq3_s无shuffle的gemm/gemv，由Shaofei Qi共同撰写，由Codex协助* opencl：为adreno添加iq3_s dp4a，由Shaofei Qi共同撰写，由Codex协助* opencl：优化adreno解码并缩小批次的iq3_s，由Shaofei Qi共同撰写，由Codex协助* opencl：添加iq3_xxs AOS移动，由Codex协助* opencl：添加iq3_xxs SOA移动及分块矩阵乘法，由Codex协助* opencl：为adreno添加iq3_xxs无shuffle的gemm/gemv，由Shaofei Qi共同撰写，由Codex协助* opencl：为adreno添加iq3_xxs dp4a，由Shaofei Qi共同撰写，由Codex协助* opencl：优化adreno解码并缩小批次的iq3_xxs，由Sha

事件进展与其他报道

2026-10-30

llama.cpp 发布21:50

b12007

kv-cache：在 GPU 上保留旋转常量（#31073）* kv-cache：在 GPU 上保留旋转常量由 Codex 协助 * 测试：验证常驻 KV 旋转缓冲区由 Codex 协助 * kv-cache：记录剩余的多设备旋转相关工作由 Codex 协助 * kv-cache：支持逐层旋转缓冲区由 Codex 协助 * kv-cache：修复混合 SWA 旋转输入及混合放置检查由 Codex 协助 * 模型：在 mistral-large4 和 dflash 中使用逐层旋转 * 测试：删除旋转缓冲区测试 --------- 共同作者：Pascal **网站：** - **证明文件：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b12007/llama-b12007-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64，已启用 KleidiAI）[已禁用](ht

事件进展与其他报道

llama.cpp 发布20:45

b12005

opencl：添加对q2_0的初始支持（#31340）* opencl：添加q2_0 AOS移动合著者：Shaofei Qi 协助者：Codex * opencl：添加q2_0 SOA移动与分块矩阵乘法合著者：Shaofei Qi 协助者：Codex * opencl：为adreno添加q2_0无shuffle的gemm/gemv 协助者：Codex * opencl：为adreno添加q2_0dp4a * opencl：优化adreno的q2_0解码并缩小批处理大小 --------- 合著者：Li He **网站：** - **证明文件：** - **macOS/iOS：** - [macOS Apple Silicon（arm64）](https://github.com/ggml-org/llama.cpp/releases/download/b12005/llama-b12005-bin-macos-arm64.tar.gz) - macOS Apple Silicon（arm64，启用KleidiAI）[已禁用](https://github.com/ggml-org/llama.cpp/pull/23780) - [macOS Intel（x64）](https://github.com/ggml-org/llama.cpp/releases/download/b12005/llama-b12005-bin-macos-x64.tar.g

事件进展与其他报道