b12207
在 ggml-cuda 的 SSM_SCAN 内核中,已为 d_state=64 添加了一条新的快速路径,通过消除该状态大小下的 CPU 回退,将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证,并保持了正确性;不过,由于一个尚未诊断的问题,仍有 28% 的 scan 调用会回退到 CPU。
检索标题、摘要与正文,把分散的信息连起来。
在 ggml-cuda 的 SSM_SCAN 内核中,已为 d_state=64 添加了一条新的快速路径,通过消除该状态大小下的 CPU 回退,将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证,并保持了正确性;不过,由于一个尚未诊断的问题,仍有 28% 的 scan 调用会回退到 CPU。
arXiv:2610.37819v1 发布类型:新 摘要:量子机器学习(QML)正日益被应用于医学分类任务,然而其在考虑子群体公平性标准下的表现仍缺乏深入研究。我们针对医学影像领域中的经典与量子分类器开展了一项实证性的公平性审计,并假设量子机器学习本身并不天然具备公平性。本研究评估了两种场景:基于DDI数据的皮肤病变分类(敏感属性为Fitzpatrick肤色类型)以及基于CheXpert衍生数据的胸部X光片分类(敏感属性为年龄组)。利用ResNet-18提取的特征嵌入,我们在基准设置及三种缓解策略下训练SVM、MLP、QSVM和QCNN模型:可微分的等权几率(EO)正则化、梯度反转学习(GRL),以及二者结合。同时,以基础模型(PanDerm、EVA-X)作为外部参考。
编辑|Neo100 多位顶尖数学家,耗费数十年,写下 1.5 万页证明。现在,AI 只用了 24 天,就把这项人类数学史上最庞大的工程之一,变成了 4300 多万行可以由计算机逐步验证的代码。更惊人的是,AI 在检查这些数学家留下的证明时,还揪出了一个存在近 40 年的论证漏洞。这不是一道奥数题,也不是一篇几十页的数学论文,而是被...
llama.cpp v2.45.0(标签 b11868)正式发布,核心更新为 Hexagon 后端引入 KV-head 团队拆分机制以优化多核 HMX Flash Attention 性能,并统一 FA 拆分控制标志;同步提供 macOS、Linux、Windows、Android、iOS 及 openEuler 等全平台二进制包,含 CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、Snapdragon(Adreno+Hexagon)等多后端支持。
推荐理由:按信源设置仅收录,不参与自动精选
llama.cpp 于 GitHub 正式发布 b11867 版本,核心变更包括服务端(server)入口点重构(PR #31113),新增 server_role 机制;同时提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的 40+ 预编译二进制包,支持 CPU、CUDA(12.4/12.8/13.4)、Vulkan、ROCm 10.0、OpenVINO、SYCL(FP16/FP32)、Snapdragon(Adreno+Hexagon)等多元硬件后端。
推荐理由:按信源设置仅收录,不参与自动精选
llama.cpp 项目发布构建版本 b11865,核心变更包括在 RDMA 接收逻辑中增加内存边界检查(PR #30399),并显著扩展硬件加速支持,覆盖 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL 及高通 Snapdragon(CPU+Adreno+Hexagon)全栈异构计算后端;macOS KleidiAI 支持与 openEuler 构建被明确标记为 DISABLED。
推荐理由:按信源设置仅收录,不参与自动精选
GPT-6 Astra 帮助 Hex 的数据代理将答案变成员工自豪地分享的交互式可视化.