跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

llama.cpp 发布 b11867 版本:服务端入口重构,全面支持多平台与异构加速后端

llama.cpp 于 GitHub 正式发布 b11867 版本,核心变更包括服务端(server)入口点重构(PR #31113),新增 server_role 机制;同时提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的 40+ 预编译二进制包,支持 CPU、CUDA(12.4/12.8/13.4)、Vulkan、ROCm 10.0、OpenVINO、SYCL(FP16/FP32)、Snapdragon(Adreno+Hexagon)等多元硬件后端。

推荐理由:按信源设置仅收录,不参与自动精选

事件进展与其他报道

llama.cpp 发布 b11866 版本:移除 Metal 后端冗余 AMAX 缩放逻辑,精简 MoE 计算路径

llama.cpp v.b11866 移除了 Metal 后端中已过时的 src1 power-of-two AMAX 缩放机制,转而依赖计算图内更精细的 per expert-token amax 缩放,确保 MoE 下投影激活值在 f16 表示范围内;同步删除相关两阶段归约核、F32 精度调度及越界测试用例。

推荐理由:按信源设置仅收录,不参与自动精选

事件进展与其他报道

llama.cpp 发布 b11865 版本:新增 RDMA 接收边界检查,支持 CUDA 13.4、ROCm 10.0、Snapdragon NPU 等多平台后端

llama.cpp 项目发布构建版本 b11865,核心变更包括在 RDMA 接收逻辑中增加内存边界检查(PR #30399),并显著扩展硬件加速支持,覆盖 CUDA 13.4、ROCm 10.0、Vulkan、OpenVINO、SYCL 及高通 Snapdragon(CPU+Adreno+Hexagon)全栈异构计算后端;macOS KleidiAI 支持与 openEuler 构建被明确标记为 DISABLED。

推荐理由:按信源设置仅收录,不参与自动精选

事件进展与其他报道

AI墓地:一份持续更新的失败AI项目与初创公司清单

TechCrunch于2026年10月25日发布报道,梳理了2023至2026年间多个未能达预期的AI项目,包括Relay、Character.ai、Sora、Humane AI Pin等初创与产品,以及OpenAI、Apple、Microsoft等大厂的失败尝试或重大调整。

The AI graveyard: a running list of projects and startups that didn’t make it

推荐理由:该报道为行业级现象性盘点,覆盖范围广、时间跨度清晰(含具体关停/延迟日期),并引用S&P Global Market Intelligence数据佐证企业级AI项目高废弃率(42%),兼具案例细节与结构性分析,具典型参考价值。

事件进展与其他报道

AnyLanguageModel 1.0发布:支持本地与托管模型的统一Swift接口,适配Apple平台全系OS 27

Hugging Face正式发布AnyLanguageModel 1.0,提供与Apple Foundation Models API完全兼容的开源Swift框架,支持本地(MLX、llama.cpp、Core ML)及托管(OpenAI、Anthropic、Gemini、Hugging Face Inference Providers等)模型无缝切换,并新增图像输入、工具调用、引导式生成、推理块自动适配等特性。

事件进展与其他报道