搜索 AI 资讯

导入AI 478：对齐数学；ProgramBench；以及Mirendil展示了RSI的含义

对机器而言，“夜晚”是什么？

斯坦福大学与加州大学伯克利分校的研究人员推出 TokenGate：基于令牌的注意力机制使长上下文预填充速度提升高达 11.3 倍

斯坦福大学与加州大学伯克利分校研究人员提出TokenGate——一种可即插即用的学习型令牌剪枝模块，适用于现有大语言模型（LLM）。该方法在不损失准确率的前提下，将长上下文预填充的首字生成时间（TTFT）加速1.4至11.3倍，峰值内存降低1.5至3.4倍。相关代码与检查点已开源。

Sebastian Raschka发布八视频课程《从零构建推理模型》

Sebastian Raschka于2026年10月24日在Ahead of AI杂志（magazine.sebastianraschka.com）发布一套共八讲、超11小时的Python与PyTorch实操视频课程，系统讲解推理模型的评估、推理时扩展、强化学习（RLVR）与知识蒸馏，基于预训练Qwen3-0.6B模型实现全部方法。

推荐理由：该课程是作者继《从零构建大语言模型》后推出的进阶技术教育内容，聚焦当前主流LLM的核心演进方向——推理能力增强，覆盖从基础环境搭建到GRPO强化学习、自蒸馏等完整技术链，且明确声明所有实现均‘从零手写’、可复现，具备强教学性与工程参考价值。

PyTorch 2.15 正式支持 MPS：FP8、MoE 加速与 Metal 内核全面升级

PyTorch 2.15 为 Apple Silicon Mac 带来重大 MPS 后端升级，首次在 macOS 上原生支持 FP8 张量运算，MoE 模型解码速度提升 5–6.5 倍，视频 VAE 解码峰值显存从 270 GiB 降至 8 GiB，并将大量算子从 MPSGraph 迁移至专用 Metal 内核。

用PyTorch(第2部分)进行剖析:来自nn. 折叠 MLP 的线性

用PyTorch(第2部分)进行剖析:来自nn. 折叠 MLP 的线性