b12207
在 ggml-cuda 的 SSM_SCAN 内核中,已为 d_state=64 添加了一条新的快速路径,通过消除该状态大小下的 CPU 回退,将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证,并保持了正确性;不过,由于一个尚未诊断的问题,仍有 28% 的 scan 调用会回退到 CPU。
检索标题、摘要与正文,把分散的信息连起来。
在 ggml-cuda 的 SSM_SCAN 内核中,已为 d_state=64 添加了一条新的快速路径,通过消除该状态大小下的 CPU 回退,将 Zamba2-7B-Instruct 的生成吞吐量从 11 tok/s 提升至 15.1 tok/s——约提升 35%。该更改已使用真实的 Zamba2 超参数进行了验证,并保持了正确性;不过,由于一个尚未诊断的问题,仍有 28% 的 scan 调用会回退到 CPU。
Simplismart表示,其年化收入增速在六个月内增长了14倍,其中美国市场贡献了超过一半的收入。
对带宽的空前需求促使人们通过从根本上重新构想光互连路线图,将光学技术更紧密地集成到硅基芯片上。文章《imec报告:面向人工智能时代的光互连技术 scaling》首发于 Semiconductor Engineering。
arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用领域不断拓展。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,DGL 和 PyG 等标准化库应运而生,旨在简化 GNN 的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这类库往往表现出较差的可扩展性,并且无法实
今天,我们来了解一下华擎面向工作站推出的高端Radeon AI推理卡——Creator Radeon AI Pro R9700。这款显卡配备32GB内存,售价1700美元,是为工作站添置本地AI推理能力的高性价比之选。文章《华擎Creator Radeon AI Pro R9700评测:AMD风格的工作站推理》首发于ServeTheHome。
八年前,芯片制造商美满电子科技公司决定在纳米制程领域实现跨越式发展,此后其发展轨迹一路稳步向上。在半导体制造领域,纳米制程代号所指的并非晶体管的确切物理尺寸,而是各代芯片制造技术,即所谓的工艺节点。先进的工艺节点通常能够提升晶体管密度,并带来性能上的改进……文章《美满电子在人工智能需求推动下,早期的芯片制造豪赌终获回报》首发于SiliconANGLE。
苹果终结二十年触控抵制,首款触屏OLED MacBook Pro定档发布,成为特努斯接任CEO后首个硬件答卷;Meta自由现金流转为-21亿美元,7600亿美元行业资本支出迎盈亏平衡审判;谷歌以1070兆瓦虚拟电厂重构数据中心供能,特斯拉自研AI地图弃用谷歌;Anthropic被指静默削弱Claude Opus 5.5逆向能力;亚马逊、Meta、OpenAI以50美元级AI硬件切入可穿戴赛道。