跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

FlexA-Mem:面向LLM智能体驱动的预算自适应智能体记忆

arXiv:2610.33274v1 发布类型:新 摘要:大型语言模型(LLM)智能体在不同场景下有着截然不同的记忆需求。关于过往对话的问题需要精确引用其中提及的事实,而多步骤任务则需要记录已执行的每一步,并附上下一步无法直接表述的细节。现有的各类记忆系统往往针对某一特定场景进行设计与测试。诸如A-Mem之类的检索型记忆会遗漏当前查询未明确表达的步骤,摘要则会丢失精确的字符串信息,而将两者结合又会在事前就固定了内存预算的分配。我们提出FlexA-Mem,这是一种通用的记忆机制,它将历史中的每一项内容仅写入一次不可更改的存储中,并为每次调用生成一份全新的记忆。生成的记忆是一份紧凑的记录时间线,外加由固定规则所决定的详细信息……

事件进展与其他报道

通过边缘端实现大语言模型训练的民主化:挑战、系统与未来之路

arXiv:2610.32215v1 发布类型:新 摘要:现代GPU数据中心日益强大的算力,使少数几家行业巨头得以在海量数据上训练并部署大型语言模型(LLMs)。然而,这些模型及其训练数据的庞大规模,使得集中式开发越来越难以为继,同时也将那些拥有相关私有数据但缺乏同等基础设施的小型机构拒之门外。本文围绕预训练与微调两大范式,梳理了我们在分布式LLM训练方面的立场,涵盖联邦学习、分割学习以及去中心化方法,并评估了它们在异构硬件与连接不稳定等地理分布式环境中的适用性。随后,我们提出了一种{\em 统一}的系统

Democratizing LLM Training with the Edge: Challenges, Systems, and the Road Ahead
事件进展与其他报道