跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

FenixWalk:面向异构架构的大规模动态图自适应采样

arXiv:2611.04683v1 公告类型:新 基础摘要:随机游走是图分析的基础,但在大型动态图上高效执行仍具挑战。现有方法需在采样效率、更新开销和内存消耗之间权衡。为吞吐量优化的采样结构往往带来显著的内存开销和高昂的维护成本,而轻量级方案在高度数顶点或权重分布偏斜时又可能面临较高的采样延迟。这些挑战在异构CPU-GPU平台上尤为突出:主机内存容量充足,但GPU内存限制了可从并行加速中获益的图数据量。我们提出了FenixWalk,一个面向大规模动态图的内存高效随机游走系统,将统一的原地采样与选择性GPU加速相结合。核心上,FenixWalk采用原地Fenwick表示,无需复制边级权重存储即可支持拒绝采样和逆变换采样。该表示使拒绝采样具备期望O(1)的权重查询时间,并支持O(log d)的前缀采样与更新。为高效利用异构硬件,FenixWalk将完整图及其采样结构保留在主机内存,同时将频繁重用的顶点本地采样器有选择地放置在GPU上。通过传输紧凑的游走器状态而非反复迁移图分区,该系统减少了跨设备通信,并有效利用了有限的GPU内存。在大型真实世界图及代表性随机游走工作负载上的实验表明,FenixWalk相较于现有随机游走系统实现了平均2.06倍至400.57倍的加速。

FrontGI:基于小芯片多核系统的架构感知并行GNN推理

arXiv:2610.34911v1 发布类型:新 摘要:高性能计算的范畴已扩展至涵盖多种形态的机器学习任务。图神经网络(GNN)日益受到青睐,其应用领域不断拓展。随着图数据规模的持续增长,包括节点数量、边的数量以及嵌入维度的不断提升,DGL 和 PyG 等标准化库应运而生,旨在简化 GNN 的计算过程。这些库允许以高层次的抽象方式描述计算流程,从而显著提升开发者的生产效率。然而,随着处理器核心数的迅速增加以及多核架构的演进,这类库往往表现出较差的可扩展性,并且无法实

事件进展与其他报道

DualPace:用于大语言模型推理的解耦调度与GPU-CPU协同解码

arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎

事件进展与其他报道

在人工智能需求高涨之际,Marvell早期的芯片制造押注终于获得回报

八年前,芯片制造商美满电子科技公司决定在纳米制程领域实现跨越式发展,此后其发展轨迹一路稳步向上。在半导体制造领域,纳米制程代号所指的并非晶体管的确切物理尺寸,而是各代芯片制造技术,即所谓的工艺节点。先进的工艺节点通常能够提升晶体管密度,并带来性能上的改进……文章《美满电子在人工智能需求推动下,早期的芯片制造豪赌终获回报》首发于SiliconANGLE。

事件进展与其他报道