跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

FlatCake:一种用于大语言模型推理的扁平化KV缓存存储架构

arXiv:2610.38355v1 发布类型:新摘要:KV缓存复用能够加速大语言模型的推理,但现有系统将主机DRAM和NVMe SSD视为分层结构,其中DRAM充当中间缓存。然而,实际的大语言模型工作负载打破了这一分层结构的两个前提。首先,双模态复用使DRAM的时间过滤失效,因为工作负载要么由具有较长复用距离的一次性块主导,要么由超过DRAM容量的数GB级智能体会话主导,从而将SSD置于关键的读取路径上。其次,DRAM的暂存与按驱逐顺序布局导致SSD恢复出现瓶颈。为在途前缀保留主机暂存缓冲区会在负载下引发争用,进而中止预取操作;而增量式驱逐则会将会话的块分散到整个SSD上,阻碍大规模顺序读取。我们 p

事件进展与其他报道

Wabi为其面向消费者的AI助手融资5500万美元

专注于为消费者打造人工智能助手的Wabi公司今日宣布,已成功筹集5500万美元融资。本轮融资由IVP领投,亚马逊Alexa基金、安德森·霍洛维茨和Forerunner等机构也参与投资。此外,还包括一批天使投资人,其中包括Salesforce公司首席执行官马克·贝尼奥夫和Shopify公司首席执行官托比·吕特克。文章《Wabi为其面向消费者的AI助手融资5500万美元》首发于SiliconANGLE。

事件进展与其他报道

专为端到端大模型打造:新芯航途发布X7 Ultra智驾芯片,中国首发量产Armv9 车规级CPU

10月29日,XHEART新芯航途发布全新一代智驾大模型芯片X7Ultra。面对智驾从多个小模型向“端到端大模型”演进的趋势,其秉持“大模型定义芯片”理念,从真实量产模型底层需求出发,倒推重设计算架构、存储方案及数据流转方式,并为未来模型演进预留空间。文章还涉及核心算力与架构设计。

image.png
事件进展与其他报道

通过低秩多线性分解进行大语言模型幻觉检测

arXiv:2610.36191v1 发布类型:新 摘要:大型语言模型(LLMs)经常生成流畅但事实错误的回复,这引发了对其可靠性的担忧。近期的幻觉检测方法越来越多地利用内部表示,但从高维隐藏状态中提取有效信息仍然充满挑战。现有方法往往依赖于特定激活或基于池化的压缩方式,可能忽略了分布在Transformer各层、特征模式和标记中的判别性信息。我们提出了LOTUS(基于低秩顺序统计TUcker的子空间学习),这是一种用于幻觉检测的多线性低秩分解框架,能够在降低对标签依赖的同时,从LLM的隐藏状态中提取紧凑的表示。

事件进展与其他报道

KORA:面向人工智能工作负载的确定性优先执行控制

arXiv:2610.35869v1 发布类型:新 摘要:人工智能应用通常会在决定是否需要进行推理之前先调用模型。这种默认行为对于模糊的生成任务很有用,但与那些结构化、确定性、受策略约束、以查找为主或可直接验证的工作并不匹配。KORA 提出了确定性优先执行控制:一种位于推理前的控制层,它将请求表示为任务路径,优先尝试确定性或结构化的执行路径,验证路径结果,记录遥测数据,并仅在确定性处理不足时才切换到模型候选路径。本文将 KORA 介绍为一种确定性优先的执行控制架构,并基于可复现的基准测试和验证工作负载提供了有限的实证证据。在一项重

事件进展与其他报道

一种用于前沿大型语言模型中阿希服从现象的定量方法

arXiv:2610.36668v1 发布类型:新 摘要:阿希服从实验近来作为衡量大型语言模型(LLMs)中从众行为的一种手段而备受关注。尽管先前的研究主要致力于证明大型语言模型中的从众现象,但我们的工作在此基础上进一步引入了定量分析维度。我们并未针对一系列问题对前沿大型语言模型进行抽样,而是通过反复采样同一个问题,利用大型语言模型的概率特性生成答案分布。由此,我们可以比较模型在被呈现人为制造的共识前后答案分布的变化。实验结果证实,前沿大型语言模型确实存在从众现象,这与先前文献的结论相一致;同时,借助我们提出的分布间对比方法,还提供了更多……

事件进展与其他报道

Cloudera押注可移植性而非代理,这将使其在企业人工智能领域脱颖而出

正加速迈向AI自动化的各家企业发现,模型与数据的运行环境,其重要性丝毫不亚于模型本身的能力。监管压力、代币成本上升以及对厂商锁定的担忧,正促使企业对其AI工作负载提出更高的管控需求。这种需求正在重塑数据平台供应商们的产品定位与市场策略。[…] 文章《Cloudera押注可移植性而非代理,以在企业AI领域脱颖而出》首发于SiliconANGLE。

事件进展与其他报道

Edge Sound 获得200万美元融资,助力实体人工智能理解音频

Edge Sound Research Inc. 今日宣布已筹集200万美元新融资,用于构建一种音频基础设施,该设施能够分离出有用的声音,并将其与其他传感器数据相结合,以帮助物理人工智能系统实时理解当前发生的情况。本轮融资由 Stormbreaker Ventures 领投,使公司累计融资额达到900万美元。当…… 该文章“Edge Sound 融资200万美元,助力物理人工智能理解音频”首发于 SiliconANGLE。

事件进展与其他报道

随着折扣交易的瓦解,AI代币的销售愈发艰难

模型积分正出现在各类节日促销活动和运营商风格的套餐中。那些依靠不透明加价而蓬勃发展的小型经销商,如今面临质量质疑、监管压力以及资金更雄厚的竞争对手的挑战。而实力雄厚的中间商则会针对路由、信任与集成收取费用,而非通过暗中降价来吸引客户。

事件进展与其他报道

SAP凭借更智能、受治理的Joule代理,进一步推进其自主企业战略

SAP SE 今日在其面向开发者的年度 TechEd 大会上宣布了一系列人工智能创新,进一步强化了其 Joule 智能体解决方案和 Business AI 平台,其中包括表格数据基础模型。Joule Work 的新功能将助力 AI 智能体提升效率,并与开放协议实现互操作。在此背景下,模型上下文协议[…] 该文章“SAP 以更智能、受管的 Joule 智能体推动企业自主化发展”首发于 SiliconANGLE。

事件进展与其他报道