斯坦福大学与加州大学伯克利分校的研究人员推出 TokenGate:基于令牌的注意力机制使长上下文预填充速度提升高达 11.3 倍
斯坦福大学与加州大学伯克利分校研究人员提出TokenGate——一种可即插即用的学习型令牌剪枝模块,适用于现有大语言模型(LLM)。该方法在不损失准确率的前提下,将长上下文预填充的首字生成时间(TTFT)加速1.4至11.3倍,峰值内存降低1.5至3.4倍。相关代码与检查点已开源。
检索标题、摘要与正文,把分散的信息连起来。
斯坦福大学与加州大学伯克利分校研究人员提出TokenGate——一种可即插即用的学习型令牌剪枝模块,适用于现有大语言模型(LLM)。该方法在不损失准确率的前提下,将长上下文预填充的首字生成时间(TTFT)加速1.4至11.3倍,峰值内存降低1.5至3.4倍。相关代码与检查点已开源。
Anthropic于2026年10月8日推出OSS Scanner——一款基于Claude Mythos等强模型的免费、可选加入式AI漏洞扫描工具,专为关键开源项目设计;截至10月19日,已接收114个项目,11天内报告77个严重级和803个高级别漏洞(模型评级),88%的抽样审计结果符合其披露标准。
推荐理由:该工具代表LLM在开源安全领域的规模化落地实践,以零成本、全自动、离线审计为特点,但跳过人工审核环节带来误报与重复问题风险;其精度数据(88%有效率、1%假阳性)和真实项目反馈(如wolfSSL、curl)提供了当前AI驱动漏洞发现能力的实证基准。
第958期《The Sequence Radar》把推理软件、模块化AI工厂及企业AI投入放在一起观察:单次推理更便宜,并不必然意味着行业总投入更低。本篇按原刊整理,并以DeepSeek与英伟达官方资料补充技术范围和交付条件。
Kimi于2026年10月25日发布K3.1 Pro模型,在Terminal-Bench 4.0终端任务测试中以67.2%成功率位列第一;其自主修复仿真器错误、完成物理模拟、音频分析、3D场景构建及视频剪辑等多任务能力,指向具身智能技术路径探索。
推荐理由:材料基于钛媒体授权发布的实测报告,涵盖权威第三方评测数据(Artificial Analysis、Terminal-Bench 4.0等)、官方自测结果及作者多场景功能验证,聚焦K3.1 Pro在执行能力、仿真闭环、多模态编程上的实质性进步,同时明确标注性能局限与未公开信息(如Flash/Ultra尚未发布),符合事实核查与信源标注要求。
英飞凌与Wolfspeed于2026年10月15日宣布扩大并延长碳化硅晶圆供应协议,将合作从150mm延伸至200mm规格,旨在支持英飞凌200mm制造转型、增强供应链韧性;Wolfspeed则借此拓展200mm材料在头部客户中的长期应用,但其材料业务仍面临营收下滑与负毛利率压力。
推荐理由:该事件标志着全球碳化硅产业竞争重心正式前移至大尺寸衬底与制造环节,是产业链上下游协同推进200mm量产的关键信号;材料来源明确(钛媒体2026-10-25发布),所有事实均严格对应原文所列时间、主体、数据及限制条件,无推断、无补全、无引申。
2026年9月起,TCL华星、京东方、惠科等面板厂商密集发布涨价函,主因AI大模型发展导致HBM需求激增,挤占成熟制程芯片产能,推高驱动IC、PCB、玻璃基板等关键物料价格;康宁等上游供应商同步提价。尽管成本端压力明确,但下游电视/显示器品牌采购价未普涨,终端用户投诉过热、黑点等品控问题频发,涨价尚未转化为实际成交与体验升级。
推荐理由:材料系统揭示了AI产业对非直接关联硬件行业的跨链传导机制——非因AI拉动面板需求,而是通过晶圆产能再分配引发全链条成本重定价;同时呈现涨价行为与市场真实反馈(价格僵持、出货下滑、用户投诉)之间的显著落差,凸显产业议价权与产品力不匹配的深层矛盾。
巴黎·马克思在《超大规模》一书中梳理全球数据中⼼抗争史,指出爱尔兰因电网容量饱和实施禁令、企业转而私建燃气电厂;新西兰则探索以本地云支持毛利语语音识别的非掠夺性AI路径;美国当前爆发的反对浪潮实为早有预兆的全球性矛盾重演。
Open WebUI v0.12.4 是一个开源大语言模型前端界面的重大维护版本,于可信元数据日期 2026-10-25 前发布。核心更新包括技能按需加载(需启用内置 Skills 工具且默认关闭)、聊天中上下文压缩过程显式标记、覆盖超百项 WCAG 合规的无障碍增强,以及 26 项经 GitHub PR/issue 验证的功能修复与行为修正,含权限控制强化、Safari/RTL/多文件夹等场景缺陷修复。未引入新模型、API 或第三方服务,无性能基准、用户数据或监管信息。
推荐理由:按信源设置仅收录,不参与自动精选
llama.cpp 在 b11871 版本中引入关键安全修复,对请求中 JSON 嵌套层级实施 128 层硬性限制,避免因深度递归解析导致 HTTP 线程栈溢出、服务崩溃(macOS 触发 SIGBUS,Linux 触发 SIGSEGV)。该策略覆盖 chat 接口多类输入场景,并统一返回 HTTP 400 错误。
推荐理由:按信源设置仅收录,不参与自动精选
微软研究院于2026年10月25日开源Agensh,一种无需中央协调器的多代理运行时框架,支持1至1024个LLM编码代理在ProgramBench上自组织协作。系统基于Gitea、Mattermost和DeLM风格共享看板实现去中心化协调,所有代理运行同一提示驱动的五步循环,已在Linux+Docker环境下验证可扩展性。
推荐理由:该成果代表多智能体系统架构的重要演进——摒弃传统‘主控代理’范式,通过提示工程与轻量服务组合实现大规模自组织;其在ProgramBench上的实证数据(如128代理使5任务均分提升49%)为分布式AI工程提供新基准;MIT许可证开源且兼容Copilot CLI等主流单代理工具,具备实际开发参考价值。
本文介绍Underdog发布的Saluki 27B模型——一款7.9 GB的2比特量化Qwen3.8-27B变体,采用ISTA-DASLab的GSQ-RCO方法构建,声称在120任务BFCL v4工具调用基准上超越原54 GB全精度模型;但所有性能结论均来自其开发者声明,未获独立验证。
llama.cpp 在版本 b11870 中新增对 DeepSeek-V4.1-Flash(deepseek41)模型的支持,并针对其 Engram 架构进行多项底层优化,包括 KV 缓存计算简化、BF16 精度替代 MXFP8、in-graph 行 gather 等;同步提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的多平台二进制构建。
推荐理由:按信源设置仅收录,不参与自动精选
微软以采用NVIDIA RTX Spark的Surface Laptop Ultra争取本地AI开发者与高端创作者。硬件把大容量统一内存、CUDA和RTX图形能力带入便携设备,但能否形成对Mac的持续竞争,仍取决于应用适配、智能体体验和真实工作流。
推荐理由:这场竞争最终要回答的,是本地AI能否切实改善创作和开发效率,以及用户为此承担的设备、软件与迁移成本是否值得。硬件提供了新的可能性,生态和实际体验决定这种可能性能够覆盖多少用户。
llama.cpp v2.45.0(标签 b11868)正式发布,核心更新为 Hexagon 后端引入 KV-head 团队拆分机制以优化多核 HMX Flash Attention 性能,并统一 FA 拆分控制标志;同步提供 macOS、Linux、Windows、Android、iOS 及 openEuler 等全平台二进制包,含 CUDA 12/13、Vulkan、ROCm、OpenVINO、SYCL、Snapdragon(Adreno+Hexagon)等多后端支持。
推荐理由:按信源设置仅收录,不参与自动精选
llama.cpp 于 GitHub 正式发布 b11867 版本,核心变更包括服务端(server)入口点重构(PR #31113),新增 server_role 机制;同时提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的 40+ 预编译二进制包,支持 CPU、CUDA(12.4/12.8/13.4)、Vulkan、ROCm 10.0、OpenVINO、SYCL(FP16/FP32)、Snapdragon(Adreno+Hexagon)等多元硬件后端。
推荐理由:按信源设置仅收录,不参与自动精选
llama.cpp v.b11866 移除了 Metal 后端中已过时的 src1 power-of-two AMAX 缩放机制,转而依赖计算图内更精细的 per expert-token amax 缩放,确保 MoE 下投影激活值在 f16 表示范围内;同步删除相关两阶段归约核、F32 精度调度及越界测试用例。
推荐理由:按信源设置仅收录,不参与自动精选
llama.cpp v.b11861 修复了 minimax-m3 模型在 NVFP4/MXFP8 量化下因 scale 张量未注入计算图而导致的权重失真问题,避免‘token soup’与残差淹没;同步提供覆盖 macOS、Linux、Windows、Android、iOS 及 openEuler 的多平台二进制构建。
推荐理由:按信源设置仅收录,不参与自动精选
TechCrunch于2026年10月25日发布报道,梳理了2023至2026年间多个未能达预期的AI项目,包括Relay、Character.ai、Sora、Humane AI Pin等初创与产品,以及OpenAI、Apple、Microsoft等大厂的失败尝试或重大调整。
推荐理由:该报道为行业级现象性盘点,覆盖范围广、时间跨度清晰(含具体关停/延迟日期),并引用S&P Global Market Intelligence数据佐证企业级AI项目高废弃率(42%),兼具案例细节与结构性分析,具典型参考价值。
安全研究人员借助AI工具,将已存在多年、曾被认为难以利用的PHP漏洞(统称PHP2Shell)转化为可实际 exploited 的攻击面;漏洞公开数小时内即遭百万次尝试利用,但迄今无成功入侵报告。
推荐理由:该事件首次清晰呈现AI并非凭空创造新漏洞,而是显著降低历史漏洞的利用门槛,凸显AI在攻防两端加速既有安全动态的双重作用,且所有有效发现均依赖人机协同。
Sebastian Raschka于2026年10月24日在Ahead of AI杂志(magazine.sebastianraschka.com)发布一套共八讲、超11小时的Python与PyTorch实操视频课程,系统讲解推理模型的评估、推理时扩展、强化学习(RLVR)与知识蒸馏,基于预训练Qwen3-0.6B模型实现全部方法。
推荐理由:该课程是作者继《从零构建大语言模型》后推出的进阶技术教育内容,聚焦当前主流LLM的核心演进方向——推理能力增强,覆盖从基础环境搭建到GRPO强化学习、自蒸馏等完整技术链,且明确声明所有实现均‘从零手写’、可复现,具备强教学性与工程参考价值。