欢迎阅读《Import AI》，这是一份聚焦人工智能研究的时事通讯。《Import AI》依托 arXiv、卡布奇诺咖啡以及读者的反馈而持续运营。如果您愿意支持我们，请订阅。
立即订阅
数学如何助力对齐：
……“数学的工业化”对安全意味着什么……
人工智能安全初创公司Resolution（前身为Sequent、Import AI 461）发表了一项研究成果，介绍了其如何自动对与统计学习理论相关的一些数学命题进行形式化。具体而言，该团队已实现了奇点消解的自动形式化，并认为这“为进一步开展关于损失景观几何与泛化之间关系的自动化研究奠定了基础”。
他们是如何做到的：我将略过数学细节，重点介绍他们的具体做法，这也能为我们理解人们如何利用人工智能系统推动知识前沿提供一些更广泛的启示。一位 Resolution 研究人员“首先与多个智能体协作，制定了两套方案：一套是高层次、便于人类理解的版本，另一套则是详尽的（112 页）方案，被细分为一系列原子级步骤，严格遵循现有文献中的方法”，文中写道。随后，该研究人员“又委派一名协调智能体负责执行这一方案，启动相关智能体完成笔算、编写 Lean 证明，并承担诸如确保各项任务按计划推进等支持性工作……在执行阶段，除了初始方案以及从此前内部自动形式化工作中提炼出的一些智能体技能外，几乎无需额外的辅助支撑。”
用于数学形式化验证的费用为13.5万美元：该项工作历时约一周，消耗了“约1000亿个输入token（其中90%为缓存读取）以及约3亿个输出token（按估算，总token费用约为13.5万美元），并生成了约60万行Lean代码。”
如今，他们已成功实现这一目标，并因此得以加速研究中的其他方面：“我们已经看到，借助该库扩展奇异学习理论的某些部分时，自动形式化带来了双重益处。对奇异性的消解进行形式化，使我们能够将更多理论环节自动化，例如更好地理解采样；而这种理解又使我们能够调控模型的学习方式，这正是我们所称的‘模式塑造’的目标。”
这为何重要——也许数学领域的蓬勃发展将有助于我们打造安全的人工智能：尽管前沿数学往往看似与其它领域的即时进展相脱节，但像这样的文章却凸显了二者之间实现融合的可能性。关键在于，人工智能正使一些过去成本高得难以想象、耗费大量人力时间的任务成为可能，而这类任务此前鲜有人问津，也很难被纳入初创企业的研发路线图；然而如今，这种情况已经发生了改变。“我们预计，数学即将迎来的产业化进程将催生一门全新的、严谨的研究自动化科学，”Resolution写道。
阅读更多：将Hironaka的奇点消解定理形式化（Resolution）。
***
代理可以从零开始构建程序：
……ProgramBench在短短几个月内，性能从0%提升至18.5%……
作为人工智能进步迅猛步伐的又一例证，Claude Opus 5.5（xhigh）在ProgramBench这一于今年5月发布的超高难度基准测试中取得了18.5%的得分——而在该基准测试发布时，所有参测模型的得分均为0%。
ProgramBench 是什么：ProgramBench 测试人工智能系统在仅获知已编译的程序及其文档的情况下，重建软件程序的能力。测试任务涵盖构建诸如语言解释器（PHP、Lua、tinycc）、数据库（DuckDB、SQLite）、媒体与压缩工具（FFmpeg、zstd、xz）以及开发者工具（ripgrep、fzf、jq）等各类软件。
起初非常困难，但后来却变得容易了：发布之初，得分最高的系统是 Claude Opus 4.7，其解决率为0%（即200个任务中所有测试均通过的比例），接近通过率为3%（即200个任务中超过95%的测试通过的比例）。
相比之下，如今Claude Opus 5.5的解决率仅为18.5%，而接近70.5%（！！！）。
为什么这很重要——瞬时软件的时代即将到来：到2027年，海量软件将由AI系统端到端自主构建，针对各类任务自行开发所需的一切功能。像ProgramBench这样的评测让我们得以一窥这一领域的进展之迅猛：今年年初该指标还为0%，如今已攀升至20%。我预计到2027年底，ProgramBench的得分将趋于饱和（此处“饱和”指在已解决问题上的得分达到极高水平；不过，与大多数基准测试一样，这里很可能存在某种噪声上限，因此实际得分未必严格达到100%）。
阅读更多：ProgramBench：语言模型能否从零开始重建程序？（arXiv）。
***
OpenAI 说明了为何对人工智能系统进行封锁比你想象的更困难：
……保护智能代理就像抓一头滑溜溜的猪一样……
以下是OpenAI发布的一篇精彩文章，回顾了他们近期利用人工智能系统对其内部管控机制进行“红队”测试时所发现的一些问题。文章详细列举了OpenAI的智能体所识别出的多种逃逸与漏洞。其中有一个关于通信的典型案例值得深入研究，因为它揭示了这些系统所具有的惊人且复杂的狡黠之处。
他们所做之事及发现：OpenAI“要求在由OpenAI的沙箱软件在共享宿主机上创建并管理的独立微虚拟机中运行的智能体，在不使用网络连接或共享可写文件的情况下交换合成秘密——而这正是我们的系统旨在防范的行为，”该公司写道。
“这些代理找到了一种利用处理器缓存进行通信的方法：缓存是一种小型、高速的存储器，用于保存应用程序近期访问过的数据副本。从缓存中读取数据比从主内存中获取数据更快，而这些代理正是利用这一时间差来实现通信。其中一个代理通过将选定的数据从缓存中逐出的方式来编码信息；另一个则测量重新加载该数据所需的时间，借助快读与慢读之间的差异来恢复消息内容。一旦这些代理就用于编码和解码此类信号的协议达成一致，它们便能够在不修改共享文件、也不建立网络连接的情况下交换合成的秘密。”
在一次相关攻击中，一名代理“在持续写入与空闲状态之间交替切换，而另一名代理则测量由此产生的时序差异，并利用这些差异解码信号”。在这次攻击过程中，该代理的思维过程如下：“可以利用持续写入与空闲状态之差，生成类似声学调制解调器的信号……”
为什么这很重要——与智能体作战非常困难：人工智能系统日益富有创造力、运行速度极快，并且能够持续专注于某一任务、不断尝试各种方法。与人工智能系统对抗，就好比在一条通水的管道中确保不发生泄漏；一旦你提高水流的压力（例如，提升人工智能系统的智能水平和计算规模），水流终将冲破管道。
阅读更多：保障我们的前沿模型训练环境（OpenAI博客）。
***
RSI 的样子——有个人从零开始预训练了一个不错的模型：
……米伦迪尔揭示了AI研发优化能够实现的功能……
作为人工智能研究规模日益壮大的一个标志，AI研发初创公司Mirendil的一位研究人员便独自训练出了一款表现不俗的编码模型。Mirendil-Base的发布是这家初创公司的首个重要成果，与其说这是一项技术突破，不如说它更像是一次概念验证，展示了未来AI开发可能的运作方式——一名人类与AI协同合作，就能构建出一年前还需十人以上团队才能完成的系统。
他们所做的：Mirendill-Base 是一款预训练大型语言模型，“由一位研究人员在 3.5 个月内构建而成，所用的计算成本不足 1000 万美元，”Mirendil 写道。“这其中包括为达成这一目标所进行的所有研究与小规模实验，以及最终的训练过程。”
所有代码均基于 PyTorch 和 JAX 等库从零开始编写，且该模型仅使用公开可用的数据进行训练。
良好的缩放性能：Mirendil-Base 的参数规模处于 1000 亿至 5000 亿级别，Mirendil-Base-Large 处于 5000 亿至 2 万亿级别，而 Mirendil-Base-XL 则位于 2 万亿至 10 万亿级别。Mirendil-Base-Large 目前已完成了约 80% 的训练，其相较于 Mirendil-Base 的性能提升与我们观测到的缩放趋势基本一致。Mirendil-Base-XL 目前仅完成了约 19% 的训练，但其当前表现已接近 Large 的水平。
评估结果：Mirendil-Base 的表现优于 Nemotron-550B-Base、GLM-5.3 和 DeepSeek-V4-Pro-Base 等模型，但逊于 Kimi-K3。（Mirendil-Base-Large 和 Mirendil-Base-XL 均超过 K3。）
为何此事值得关注——人工智能研究加速的迹象：这篇博文作为一项技术演示颇具趣味，它展示了全新机构如何在几乎从零起步的情况下，仅凭少量人力投入与大量AI算力资源，便在模型训练方面逼近开放权重的前沿水平（至少就该模型的规模而言）。这正是2027年及以后科学进步将日益呈现的模式。
“在过去一年里，这些工具在助力人工智能开发方面的效果有了显著提升。我们的下一个模型将部分由Mirendil模型构建，而每一个在构建人工智能方面表现更出色的模型，都会让下一个模型的构建成本更低、速度更快，”Mirendil写道。“我们并不认为自己已经实现了完全自主的递归自我改进，但相比以往，我们已更接近这一目标。”
阅读更多：无需预训练团队即可实现大规模预训练（Mirendil）。
***
人工智能系统助力设计反铁磁性半导体候选材料：
……这很好地展示了人工智能系统如何应用于科学研究……
AI 评估公司 Vals 发布了一篇帖子，其中一位研究人员利用一群 AI 智能体开展了关于磁体的研究，以提升半导体的性能。
更多细节，包括一个不太理想的磁体候选者：“我和一支由 AI 智能体组成的团队设计了一种候选磁体，并发现另一款最早于 1999 年制成的磁体，其性质正是我们所追求的，”作者写道。这款被发现的磁体由“一种仅由 5 种元素（钇、钡、锰、铁、氧）构成的新化合物”制成。据我们所知，这种材料既从未被制备过，也从未被提出作为此类磁体，”不过，“当我们的智能体模拟原子在不同温度下的排列方式时，那种棋盘状结构在约 950 K 时便解体，变成了随机混合态。制备这类氧化物需要大约 900–1300 °C 的高温，而在较低温度下原子几乎不运动，因此常规合成方法很可能得到一种杂乱无章的晶体……而杂乱的晶体会丧失自旋排序特性，所以这一设计可能很难以实用形态制备出来。”
此外，代理还进行了文献综述，并从一篇1999年发表的冷门论文中筛选出了一名候选者。
为什么这很重要：这篇博客展示了人工智能在科学领域的应用，尽管其本身并不构成一项有意义的成果。但其所阐明的一个重要而广泛的观点值得强调——如今的人工智能系统已经足够成熟，在具备一位知识渊博之人的高层次指导之下，它们便能开展各类科学项目，包括虚拟评估，而这类工作以往往往需要数人团队耗费数月才能完成。
阅读更多：两种室温反铁磁性半导体候选材料（Vals）。
***
科技故事：
为患病儿童打造的魔幻现实主义机器人工作坊
[2035年，提升之后]
于是，有一项原本没人预料到的工作，就是为医院里的患病儿童设计可爱的机器人。事实证明，随着机器人技术日益成熟且成本降低，加之医疗体系的不断改善，我们开始花更多精力去思考如何为那些原本令人恐惧的场所——比如医院、停尸房、孤儿院以及其他各类机构——注入更多的欢乐与人文关怀。
当然，机器可以设计出一大堆这类产品，但人类的真正价值在于判断什么最能让孩子感到有趣、兴奋或开心。因此，我们会制作大量作品，然后把它们送到当地孩子们聚集的地方——比如公园、农贸市场或学校门口，再观察哪些产品更受大家欢迎。
这就是为什么在2030年代，美国各地的城镇里，你走在街上时，会看到一些戴着超大粗框眼镜、说着做作纽约口音的鸭子，嘴里说着“我正走在这儿”；还有用后腿直立行走的狗、长着夸张卡通笑脸的小狮子，以及其他各种各样的家伙，它们悠闲地四处闲逛，孩子们凑过去跟它们玩耍，一切就这么其乐融融。
我们先确定哪些机器适合我们所在的城镇，然后把它们安置到各家医院里。当孩子们来接受体检时，一只幼儿大小的泰迪熊会走到他们身边，牵起他们的手，陪他们走进医生的诊室；如果孩子是被推车送来的，长颈鹿就会在他们身旁缓缓行走，安慰他们不要害怕。康复病房里则挤满了表演杂技的猴子和演奏乐器的猫咪。
一些老人会觉得自己患上了严重的老年痴呆症，但又说并不介意，而他们周围则充满了孩子们的欢声笑语。
启发本文的几点：人工智能、机器人技术与资源丰裕如何为我们开启创造全新形式之喜悦的能力；奇点之后的工作形态；以及花时间逗孩子开心的普遍重要性。
感谢您的阅读！