跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

人工智能驱动的科学代理能否保障模型安全?

arXiv:2610.32045v1 发布类型:新 摘要:面向科学的人工智能代理正越来越多地被用于提出科学假设、开展自主实验以及解读证据。这些代理通过将大型语言模型(LLM)集成到特定领域的代理框架中构建而成,而该框架又能提升LLM的科学能力,并使其能够协调运用各类科学工具。在本研究中,我们探讨了当大型语言模型被整合进面向科学的人工智能代理框架时,模型的安全性是否仍能得到有效保障。我们针对50个有害的化学相关请求,对五种代理框架进行了评估。具体而言,我们考察了在直接提示、两种简单的对抗性提示策略以及一种自适应攻击情境下,模型的安全行为如何发生变化。基于四种近期发布的GPT变体,我们的研究结果表明

Do AI-for-Science Agents Preserve Model Safety?
事件进展与其他报道

重试权限:AI 智能体工作流中的授权与恢复研究

arXiv:2610.31916v1 发布类型:新 摘要:一个持久化的 AI 智能体能够在自身权限发生变更、且该行动的外部结果仍不确定的情况下,恢复执行一项具有重要影响的行动。我们研究了使用工具的 AI 智能体在执行过程中的可靠性,并将恢复决策与语言模型的行为加以分离。检查点状态、派遣权限、外部效应的证据以及协调权限,都是相互独立的义务。我们提出了一项有限的一致性研究,通过对照隐藏于恢复应用之外的供应商效应账本所记录的历史数据,来检验这些义务。一项预先冻结的实验在原生 LangGraph 和 Temporal 主机上执行了 336 条历史记录,跨越 14 个调度、三个供应商合同以及四个匹配的应用策略。所有 168 对主机单元

Permission to Retry: A Study of Authorization and Recovery in AI Agent Workflows
事件进展与其他报道

Phronix:面向智能体的能力中心型学习范式

arXiv:2610.31789v1 发布类型:新 摘要:科学计算日益依赖基于大型语言模型的智能体驱动工具,用于执行诸如插桩、分析和工作流移植等性能优化任务。然而,智能体的效能在很大程度上取决于其周边的支撑框架,而该框架通常依赖于人工编写的技能与精心构建的记忆库。这限制了自主学习能力,迫使智能体反复重新探索解决方案,而非保留并复用先前执行过程中积累的知识。我们提出了 Phronix,一种以能力为中心的学习范式,使智能体驱动的支撑框架能够从自身的执行过程中获取、验证并完善可重用的能力。Phronix 通过预测—验证—修正的循环运行:MCP 工具及其相关技能提出解决方案,工具 ex

Phronix: The Capability-Centric Learning Paradigm for Agents
事件进展与其他报道