今天，我将与记者、新书《AGI编年史》的作者凯文·鲁斯对话。该书详述了人工智能行业近期发生的剧烈变革。
凯文曾长期担任《纽约时报》记者，并主持广受欢迎的播客节目“Hard Fork”，但他与该节目的好友凯西·牛顿刚刚离开《纽约时报》，创办了全新科技播客“Machine Gods”，该节目于上周正式上线。
凯文和我聊了聊如何创办“机器之神”公司，以及从《纽约时报》记者转型为独立创作者的种种经历——当然，我们还谈到了那本书，这是一本调查报道极为出色的著作，深入剖析了那些争相打造通用人工智能的公司。
我想从凯文那里了解一下，报道这件事是什么样的感受，试着去理解这些人物以及那个特殊的历史时刻，还有接下来会走向何方。友情提示：这段对话在最后会转向相当哲学化的讨论，但我相信这是一场非常值得细细品味的交流。
好的：凯文·鲁斯在《AGI编年史》中，从“机器之神”谈起，并探讨人工智能的未来走向。我们开始吧。
本次访谈已为篇幅与清晰度略作编辑。
凯文·鲁斯，您是《AGI编年史》的作者，也是全新播客节目《机器之神》的联合创始人兼联合主持人。欢迎来到《解码器》。
非常感谢您的邀请。
我正在收听《机器之神》的第一集，你和凯西谈到一个事实：从技术上讲，你拥有首席执行官的头衔。
确实如此。我赢了抛硬币，而我们正缺人。像我们这样创办公司时，总得把某个人列为首席执行官吧，好歹知道在我们的第一起丑闻 inevitablly 暴露时，该把谁推到国会面前。所以，那个人就由我来担任。
这挺有趣的，因为您是 Decoder 的首席执行官。这意味着我得向您请教那些 Decoder 的问题了。
[笑] 好吧。嗯，我当CEO才短短五分钟，大多数时候我甚至都忘了自己是CEO。
老实说，这与节目里大多数CEO的表现如出一辙。他们全都装作自己才做了五分钟似的。我们稍后再谈。
我想谈谈你的书。它名为《AGI编年史》。这是一本经过严谨调查的著作，聚焦于各大前沿实验室，以及随着人工智能日益成为焦点、并在诸多方面愈发商业化的过程中，这些机构所经历的文化转型。
不过，我们先从“机器之神”说起吧。您曾长期担任《纽约时报》的记者。显然，我想观众们大概都知道这一点，但您和我相识已久。我可以坦率地说，自从认识您以来，您想成为一位YouTuber的愿望就一直萦绕心头。您总是想着：“我该怎么迈入那个领域呢？”而我呢，一向劝您：“别急着去做，先稳住。”可您还是付诸行动了。
您离开了《The Times》，并与我们的朋友凯西·牛顿一起创办了自己的播客。这正是备受欢迎的播客节目“Hard Fork”的下一代版本，而“Hard Fork”本身也十分出色。我为您感到由衷高兴，但究竟是什么促使您下定决心迈出这一步呢？
Verge 订阅用户请注意，您可独家享受无广告的 Decoder 服务，无论您通过何种渠道收听播客。请前往此处。还不是订阅用户？您可以在此处注册。
是啊，你一直试图说服我放弃这件事，而我也一直在努力让自己接受它，可你始终没能成功，因为我现在就在这里。
是的，我失败了。彻底地失败了。
不，你看，我认为出于一些非常充分的理由，媒体公司长期以来对全面押注YouTube或其他任何视频平台都持谨慎态度。那些确实全面投入的公司，也未必因此感到满意，因为其中存在很多——
是的，他们经常转向视频领域，甚至涉足死亡相关内容。
是的，你要么转向视频领域，要么就会在那些无法收回成本的事情上浪费大量资金。所以，我认为这背后有一些结构性的经济原因，但我也认为，缺乏能够承担这类长期投资的机构也是一个重要因素。
正如你所知，多年来我一直试图在媒体领域“去YouTube化”。你也一直在努力从你的那一端“去YouTube化”，但我仍然认为，YouTube显然是当下全球最重要的媒体平台。而在过去，新闻业并未在这一平台上占据核心地位。
如果把整个YouTube平台作为一个整体来看，并试图评估其中有多少内容属于你我所认为的高质量新闻报道，那么这一部分在整个生态系统中所占的比例微乎其微。
因此，我的使命之一就是破解这一难题，探索如何以一种在经济上和创意上都可持续的方式开展YouTube及各类视频相关工作。随后，我还会不断尝试，去做许多不同的事情。
这可不是那种非得上YouTube的脸。所以我也希望能拉些其他人进来，把几种形式都打磨到位。不过我看看The Verge在那方面是怎么做的，再看看Joanna Stern和MKBHD等人在那里的表现。在我看来，这非常令人振奋，而且这个领域比起文字或播客来说，竞争要少得多。
《机器之神》是一档你与NPR合作推出的播客节目，我想聊聊它。不过，你会把它视为YouTube的产品吗？
我们希望以视频为优先。这意味着，我们会像以往那样重视视频的呈现效果。我们将努力为用户创造充分的理由，让他们既想看又想听。
显然，我们知道有些人就是不喜欢视频播客，因此我们希望为音频受众提供一些令人愉悦的内容，但这就是未来的趋势。如今，做播客已经离不开视频了。所以，我们会努力拥抱这一变化，打造出一个尽可能出色、足以媲美两位中年记者在YouTube上呈现水准的版本。
的确，媒体的未来就是中年记者纷纷转向YouTube。我也有同感，因为我现在制作的视频越来越多，而这正是我们正在做的事情。这将会非常棒。
另一个离开并这样做的理由——显然，大家也知道我和凯西也是朋友，而且我早就和你以及他聊过这件事——就是人工智能的故事已经到来。这是一次平台性的变革。在这个领域，出现了新的公司、新的参与者，以及许多值得探讨的新理念。有趣的是，在这种背景下，通常还会伴随一场媒体层面的转变。我们讲述故事的方式，或者所采用的叙事形式，往往也会随着我们讨论的话题或所关注的技术而发生相应的变化。
在这里，YouTube 似乎是最为稳固的媒体平台。尽管它也在不断变化，推出了 YouTube Shorts，如今甚至可以对包括你自己的面孔在内的所有内容进行 A/B 测试，但它依然是最“不变”的那个。相比之下，Instagram 已经经历了巨大的变革，而且这种变化似乎还将持续下去。
在你尝试讲述这些新故事时，是否觉得 YouTube 是最稳定的创作平台？
确实如此。我的意思是，显然你从来都不想把所有的鸡蛋都放在同一个篮子里。因此，我们也在 Apple Podcasts 和 Spotify 上发布视频，并且会覆盖所有平台。不过，总体来说，感觉还是比较稳定的。
我一直想知道的问题是：要怎样才能取代YouTube？许多公司都曾试图取代YouTube，但要做到这一点，不仅需要打造一种对创作者和用户都更优质的体验，还必须复制整个人类的视觉内容库。你得把六百万个关于水管工如何修理每一只水槽的视频全都收集起来，然后上传到那个平台上。要撼动它实在太难了。它已经深深扎根于无数人的生活中，而且我认为它还会继续发展壮大。
我们会在谈到人工智能时再讨论这个问题，但很久以前，我曾问过Google的首席执行官桑达尔·皮查伊：“那么，如果再也没有网站了，你们打算怎么办？”他大概是这样回答的：“嗯，我们还有YouTube。”这话确实无可辩驳。你的确如此。而且它还会持续增长。
从《纽约时报》转型到你所谓的创作者经济，最让你感到意外的是什么？
嗯，我们在这方面还很新手，但到目前为止让我感到意外的是，我竟然如此喜欢那些与业务相关的事宜。我觉得在新闻行业，大家总被教导要各司其职，而我此前从未经营过企业。凯西倒是做过生意，我也知道他挺享受的。可对我来说，这些都还是全新的领域，而且并非每件事我都乐在其中。比如，为我们的诽谤险去跟保险公司谈报价，就实在不是我愿意主动去做的事。不过，说到真正把企业运营起来，这种“创始人”的角色还真有点意思。
是啊，现在正是好时候。说来也有趣，和你聊着聊着，还有凯西和乔安娜——她也刚离职，自己创业去了——大家经常提到这一点。从我的角度看，这正是我做这行这么长时间的原因：如果有一天我不再经营这家企业了，那会怎样？可这似乎根本不是一种选择。这就是媒体的未来——掌控自己的事业，也掌控自己的受众。这其中蕴含着巨大的力量。
我想谈的一件事，也是我接下来一定会详细讨论的书的主题，就是人工智能报道的受众群体，因为在我看来，这可以分为两类：一类是那些正在打造相关技术的人，他们热爱这项技术，并渴望全面了解它；另一类则是那些真正厌恶它、认为这一切都是虚假的人。
此外，还有一类我称之为“中间型”的群体，其产品正变得愈发实用。我们必须实事求是地审视并评估这些产品。几年前，它们的实用性并不高，承诺与现实之间存在较大差距；但如今，它们每天都能实现一项此前无法做到的新功能。至于这项新功能是否意味着能够攻破全球所有网站，我们暂且不作讨论，总之，人工智能正在不断突破以往的局限，而受众群体也在悄然发生变化。
您是如何看待《机器之神》的受众群体，以及它未来可能如何增长或变化的呢？
我的意思是，目前我们只是在尝试一些自认为不错的东西，希望能找到它自然的受众群体。不过我觉得你说得对，受众的确在发生变化。我想，在一段时间里，关于“cope”的呼声很高——基本上就是有人在告诉你：这根本没发生，你不必在意，它很糟糕，还会破坏环境。
在互联网的某些角落，这种情况依然存在。YouTube 上仍有相当多此类内容在传播，而 Reddit 也对 AI 持强烈反对态度。不过我认为，大多数人——至少可能占多数——要么已经接受了这一趋势，要么对此感到兴奋，因为他们明白这股潮流不会消退。而这正是我们所瞄准的受众群体。
我们并不是要告诉你，人工智能多么神奇，而在新的机器时代下我们会迎来一个AI乌托邦。我们也并非在说这些技术都是假的、一无是处，终将自行消亡，因此我们无需采取任何监管措施，也无需为此担忧。凯西把这种态度称为“AI现实主义”。他认为，有一大群人既好奇又感兴趣，或许还略感害怕，但面对恐惧时，他们的反应不是把头埋进沙子里，而是试图去理解它。
于是，当我们做 Hard Fork 时，就渐渐有了这种感觉——我们往往会做一些看起来不太符合自己风格的事情。比如，我们会制作一个 Claude Code 的操作指南视频，花上半个小时搭建一个网站，然后把自己拍下来上传，结果反响非常好。显然，大家对此很好奇；即便视频下的评论清一色都是那些讨厌 AI 的人，也足以说明，确实有不少人想了解：“我有点想知道到底发生了什么。”
“我讨厌自己根本停不下来看这个”是人工智能领域报道中的一个常见主题，原因多种多样。
让我们来谈谈这本书。我觉得这将为我接下来的一系列问题奠定基调。这本书的报道极为详实，读起来非常有趣。而据我所知，它的核心意图在于讲述深度学习革命的历史，因为如今那些人往往只在 Signal 上或发一些极其幼稚的推文。
请告诉我关于那个差距的情况，因为这个行业似乎痴迷于为自己编写计算机可读的文档，却完全不考虑人类的阅读体验，这在我看来实在有些离谱。那么，请解释一下这本书的报道过程吧，感觉光是说服他们把事情原原本本告诉你，就已经够费劲了。
是的，没错。所以，我写这篇文章的根本原因，就是担心这些内容会逐渐消失。我是个历史迷，特别喜欢读关于莱特兄弟、美国农村电气化，以及个人电脑革命时期那些伟大发明时刻的书籍。我对这类题材简直情有独钟。
当你阅读更多这类书籍时，会发现它们无不依赖于大量同时期的笔记与证据——例如研制原子弹的科学家们的实验记录，以及莱特兄弟与其亲友和商业伙伴之间的通信往来——而这些资料都得到了妥善保存与归档。
每天报道人工智能相关话题，我愈发清楚，这类内容根本不可能出现任何类似的情况，原因有二：其一，所有从事这项技术研发的人员都供职于私营企业，他们并非政府雇员，因而没有法律义务保存通信记录；其二，Signal 和 Slack 的消息均经律师设定，在一定期限后自动删除。因此，我认为，随着时间推移，这些具有历史意义的珍贵资料、重要时刻与动人故事，将不可避免地以一种大规模“消失”的方式逐年淡出人们的视野。
然后是C，研究人员们都忙得不可开交，根本顾不上做笔记。他们都在埋头苦干，因为正试图打造出“机器之神”。于是，我心想，作为一名记者，更像是一名历史学家——虽然这并不是我曾经正式扮演过的角色，但我觉得在这本书的写作过程中，自己仿佛正在扮演这个角色。我当时就想：“我必须把这些东西都记录下来，因为我恰好拥有这样一个得天独厚的近距离观察视角。这些人愿意跟我交谈，我知道其中一些人会坐下来，向我娓娓道来那些故事。”
我们当时在后台做了大量工作，以便让他们免受与我交谈所带来的后果。但这也算是我竭力将所有资料归档的一次尝试，好让后代能够查阅这些内容。
我在阅读这本书时，最鲜明的感受是：当AGI从大家梦寐以求的愿景，变成每个人都必须亲手打造的现实时，束缚便随之解除，人们齐声说道：“我们必须这么做”，并全力以赴地朝着这一目标奋勇前行。
你特别谈到谷歌，那里的奥弗顿窗口发生了位移，一时间，那些曾认为这不过是天方夜谭、颇为荒唐的谷歌内部人士，也开始谈论通用人工智能。那一刻仿佛是人工智能发展史上最为关键的时刻：从“这不是很棒吗？”转变为“我们最好尽最大努力加快步伐。”
不妨稍微谈一谈这一点，因为这些公司内部的这种转变似乎鲜有报道。
是的，我觉得这完全正确。我的意思是，自古以来，人们就一直在讨论和撰写关于AGI，或者某种虽未被称作AGI但实质上指代同一概念的事物。尤其是自20世纪50年代“人工智能”这一术语诞生以来，人们便持续探讨这一话题。艾伦·图灵曾撰文谈及一种能够完成人类大脑所能做的一切的“思考机器”。
因此，这一概念由来已久，但无论是市场上还是研究实验室中，都尚未出现能够真正实现人们期望的、具备信息输入、自主学习并据此进行预测与行动的技术。人们曾尝试过多种方法，却无一能取得理想效果。
真正需要发生的是，Transformer 架构的出现。这种架构由 Google 于 2017 年开发并公开发表，随后被包括 OpenAI 在内的多家机构所采用；OpenAI 接受了 Transformer 的理念，并在此基础上进一步发展。而这正是如今 ChatGPT 中的“T”所代表的。但那……
某处，一位Google的公关人员刚刚从灌木丛中跳出来，向你递上一张支票。
他们确实很喜欢这条线。
他们特别喜欢你这么说。他们会高兴得不得了。
他们很喜欢它。不过，当你指出尽管是他们发明的，却直到OpenAI之后才真正将其转化为产品时，他们就不太喜欢了。
不过，没错，那曾是个梦想，可当时却无从依托。那时还没有相关技术。后来，大型语言模型问世，人们忽然意识到：“哦，也许这就是那个能够无限扩展、并在多个数量级上持续改进的东西。”于是，这颗“灯泡”在OpenAI被点亮了；再后来，Google也恍然大悟：“现在我们终于有了实现一直以来所渴望之事的工具。”
你那里有一行代码，只是在指出下一个标记的预测到目前为止还没有失败——它正在完成人们期望它做的一切。显然，我们不得不围绕它开发了许多技术。有各种框架来让智能体发挥作用，还有强化学习，以及围绕它的一系列相关技术。但那项核心技术已经实现了规模化。
我之所以提到这一点，是因为在2023年到2024年间，我会问每一位做AI的嘉宾——无论是来参加节目，还是我们在The Verge上看到的——大型语言模型是否能做到这件事。它们能否完成你希望它们做的事情？因为当时我认为，尚不清楚它们是否真的能做到。
我们现在更近了。大家都在公开谈论AGI。我们眼看着Meta的Muse想什么时候在互联网上“溜达”就“溜达”。你觉得大型语言模型能做到吗？你觉得它们能到达那个境界吗？
我认为他们能做到。我对此并不完全确定，但到目前为止，他们的表现令人震惊地出色且高效。如果你回顾一下最早的大型语言模型，就会发现当时几乎99%的人都认为这太疯狂了，根本无法规模化。然而，它在每一个阶段、在每一个数量级上都持续奏效。我曾问过人们：究竟是什么让下一个标记的预测能力明显优于此前的所有方法？也有人告诉我，这种机制其实同样存在于人脑之中。甚至有一派观点认为，人脑内部发生的过程本质上就是大规模的下一个标记预测。当然，实际情况要复杂得多，它们并非彼此的一对一复制品。
但我认为，这正是人工智能核心层面的一个根本谜题：为什么下一个标记的预测竟能如此卓有成效？我想，我们并不知道答案。我甚至觉得，这或许就是某种宇宙级的奥秘之一；而之所以这一切行之有效，是因为事实证明，下一个标记的预测具有极强的泛化能力。
其中有一部分，所有这些公司都必须对此深信不疑。Anthropic公司的达里奥·阿莫代伊显然撰写了题为《巨大的计算块》的论文，他在文中指出：你只需照做即可——把数据和算力一股脑儿地投入进去，我们就能达到目标。而其他所有人也都必须被说服，相信这一点。
人工智能公司们究竟是通过怎样的路径才被说服的，而如今它们是否都已完全信服呢？
我不认为他们现在都完全信服这一点。我认为他们在不同程度上有所信服。伊利亚·苏茨克维曾有一句口号：“感受AGI”，早年间他在OpenAI的各个楼层间来回走动，不断喊着这句话，提醒大家去“感受AGI”。我觉得各个实验室对AGI的感受程度不尽相同。在我看来，Anthropic无疑是那些实验室中对AGI最为笃信的，而OpenAI则紧随其后。
还有谷歌，我认为它一直难以真正感受到AGI。我觉得这背后有很多原因，但这也非常有趣。我特别喜欢书中这一部分：在谷歌内部曾爆发过一场“内部备忘录大战”，员工们会在内部留言板上发表各种宣言，然后彼此针锋相对地回击，诸如此类。
于是，一位研究人员撰写了一份备忘录，标题为“谈谈AGI”，其中指出：如果Google想要在人工智能领域取得胜利、招募顶尖的技术人才，并确保其AI研发过程的安全性，就必须通过使用“AGI”这一术语，承认其所构建的系统远不止是一些让Gmail、Docs以及Google Photos更好地识别人脸的工具；实际上，这一切都在朝着某种类人级别的通用智能迈进。
然后，又有人立刻写了一份备忘录，上面写着：“别提AGI，那是个糟糕且不科学的术语。”双方就这样你来我往了一阵子，你会发现，直到今天，[Google首席执行官]桑达尔·皮查伊仍然不会提到AGI。
不，他不会。
德米斯·哈萨比斯说AGI。谢尔盖·布林也说AGI。所以我认为，谷歌内部似乎存在几派观点：一派认为这仍然很疯狂，我们应该把这类技术视为狭义的工具；另一派则日益壮大、势头正盛，他们认为：“不，不，不，我们正在打造AGI，或者至少应该明确宣称我们在打造AGI，否则我们最顶尖的人才都会去为OpenAI或Anthropic工作。”
我想你和我在五月的 Google I/O 大会上也有同样的经历，当时我们看着德米斯·哈萨比斯在整场主题演讲的最后说道：“我们正处在奇点的山麓。”随后我们俩又去采访了桑达尔，问他：“那是什么意思？”他则回应道：“是啊，是啊，德米斯。很酷的人。”
[笑] 这事儿你得去问德米斯。
他说道：“那家伙可真够古怪的，居然在这儿造什么机器之神。我来跟你说说 Google Assistant 的新功能吧。”
那里存在着某种巨大的脱节，或许正解释了当下Google的一切。我之所以特别询问这一点——也就是当所有人都恍然大悟、意识到我们不得不谈论这件事的那一刻——是因为OpenAI和Anthropic正是为此而创立的。它们的诞生就是为了促成这一切。
但他们在它应该如何运作的问题上并不一致。我在纽约你的新书发布会上见过你，你说本可以给书换个名字叫“去他妈的那家伙”，因为大家确实彼此憎恨。
这是真的。
然而，似乎他们有着完全相同的想法——即凭借这项技术就能实现这一目标。OpenAI 和 Anthropic 的商业诉求与 Google 的商业诉求截然不同。就目前而言，就在你我交谈的此刻，我尚不清楚他们能否在资金耗尽、CoreWeave 倒闭，或更广泛的经济泡沫以某种方式对经济形势作出新的判断之前，就达到通用人工智能的水平。
你觉得他们在AGI领域的宗教般热情是否妨碍了他们的商业运营？如果我今天掌管Anthropic，一个合乎逻辑的说法就是：我们应该停止训练新模型，把现有那些性能非常强大的模型出售给更多用户。
我认为，对AGI的信念是一把双刃剑。从某种意义上说，是的，如果你作为一家前沿AI公司的CEO被AGI的宏大愿景所“洗脑”，就很难再关心诸如“我的推理服务利润率是多少？”“我的下一批企业客户来自哪里？”这类问题了。毕竟，与“我们将打造一种超越人类的机器智能，引领我们迈入后奇点时代”相比，这些议题未免太过乏味。
另一方面，我认为信念其实是人工智能取得成功的关键要素，因为正是信念以及基于这种信念付诸行动的能力，促使你做出那些可能带来丰厚回报、并且确实已经带来丰厚回报的重大决策。
你还记得一年前吗？当时大家都在说：“天哪，OpenAI 在计算资源上花了这么多钱，他们到底怎么负担得起？萨姆·阿尔特曼这不是在过度扩张吗？”甚至连达里奥都接受采访时，还对 OpenAI 大肆抨击，指责其在计算资源上花了太多该死的钱。
快进一年，如今OpenAI已成为唯一一家不受严重算力限制的大型人工智能公司。正是这种信念，促使萨姆及其高管们在去年押注算力，甚至可能有些过度押注，这也使得他们如今的处境优于Google、Anthropic、Meta以及其他任何公司。因此，我并不想说，一味地坚信这一点总是件坏事，因为我认为，只要规模扩展机制持续奏效，这种信念确实能让你做出最终带来回报的押注。
这很有意思，因为我不妨重新审视一下OpenAI的那项决定。你在书中非常深刻地写道，OpenAI内部的人把那段经历称为“小插曲”：萨姆·阿尔特曼曾被解雇了20分钟，随后又重返岗位，而这件事也导致了一批人离开了OpenAI。
这就是你在书中所描述的那一刻：OpenAI 从一家研究型公司转型为一家企业。理性的商业决策是：“我们需要向更多人销售人工智能，而且要尽可能多地拥有它。”而萨姆以冷酷无情的商人形象闻名。我曾听人形容他在融资方面堪称 S 级高手，这不过是硅谷里一句令人惊叹的说法罢了。
所以，我认为那是一种商业选择。他们砍掉了许多原有的业务，转而专注于打造企业级人工智能产品——这才是真正的盈利所在——随后又意识到必须满足这一需求。您说那其实是在押注通用人工智能，这在我看来更像是一种理想化的转向。您能解释一下这两者如何协调吗？
是的，我认为这确实是在押注AGI。因为Sora——他们曾投入大量资金和算力推出、却最终搁置的产品——虽然是一款很酷的工具，或许能为你开拓一条新的业务线，但它并不会让你更接近AGI。
真正让你更接近AGI的，是通过构建非常优秀的编码模型，并让它们自我迭代、不断改进。这正是Anthropic一直在做的事情。而OpenAI去年被各种支线任务和新奇事物分散了注意力，结果屡屡受挫。于是，OpenAI决定精简战略、削减冗余，把重心真正放在编码以及面向长远的智能体驱动型工作负载上。也就是说，就目前而言，这正是通往AGI，乃至AGI之后时代的最前沿路径。
所以，是的，我认为这确实是一次押注——通过不把资源花在像Sora这样的项目上以实现资源的节约，但他们把钱花在了努力追赶Anthropic的编码能力上，以便能够迈向通用人工智能。
那么，当我在Dreamforce大会上看到达里奥·阿莫代伊站在马克·贝尼奥夫身旁，谈论销售企业级软件时，这难道只是做做样子吗？我一直在试图厘清的一点是：他们如今都以最“真实”的方式转型成了企业级软件供应商。他们现在就是彻头彻尾的B2B SaaS公司，但同时也在打造“上帝”。你懂的，这些人……这到底是不是一回事？他们是不是在说：“我现在得摘下B2B SaaS的帽子，重新回到祭坛上？”
我认为，B2B SaaS 这一领域是他们意识到自己不得不涉足的赛道，但我不觉得这真正符合他们的热情所在。为了写这本书，我曾与萨姆·阿尔特曼交流过，他提到的一点是：这一切其实都是一场意外：“我原本根本没打算去经营一家大型科技公司，那完全超出了我的预期。”可如今，你一觉醒来，就已经拥有了数千名员工。
Dario Amodei 还在事后回顾时写过一份非常有趣的文档，那是他在2021年公司刚起步时撰写的，名为《NewCo 的愿景》。你可以回过头去看看 Dario 对 AGI 所做的那些预测，其中之一是：他认为打造一套功能完备的 AGI 大概需要花费 100 亿美元——在我看来，这个估算至少低了一个数量级，甚至可能是好几个数量级。他还曾认为 Anthropic 实现 AGI 所需的人力不会超过 50 人左右。而如今，我觉得他们的员工规模已经达到了大约 5,000 人。所以，再次印证了当初的预测误差高达 100 倍。
所以我认为，事情的发展只是比大家预想的耗时更长，成本也比预期高出不少。企业级SaaS业务正是维持发展“飞轮”运转、支付GPU费用以及研究人员薪资的关键所在。这正是持续在前沿领域探索、不断向通用人工智能迈进的最低门槛。
他们准备好成为如此规模企业的领导者了吗？这也是我在阅读您的著作时一直在思考的问题。他们都是极具理想主义的人，以至于最终各自分道扬镳、创办了自己的公司，因为他们无法让自己的理想与现实相契合。
但似乎没有一个人是出色的管理者。我并不真正了解他们的情况，不过“他们是理想主义者”和“我们要经营一家企业软件公司”通常不会出现在同一句话里。你觉得他们能承受得住压力吗？
不，但我认为没有人能做到。他们正在尝试的事情，此前从未有人做到过。人们曾经创办过公司，也曾经快速地把公司做大；但从来没有人能在五年内将营收从0美元做到可能高达2万亿美元的IPO规模。这样的情况前所未见。所以，我觉得他们在飞机正冲向事件视界时手忙脚乱地造飞机，不过我认为他们的表现已经算是尽了人事。
我不认为让他们从可口可乐请来一位职业CEO来掌管公司是个好主意。我觉得这样一来，一切都会分崩离析，因为他们都是一群狂热分子和传教士。他们全都投身其中——当然也不是所有人，也许SaaS销售部门里确实有一些人只是为了拿工资才待在那里——但这些公司的许多核心人物都坚信自己正在打造[AGI]。
有一个人——我就不点名了——最近在其中一家公司告诉我，他们认为自己的公司或许会是最后一家。我当时心想：“今年最后一间上市的公司？你这是什么意思？”他们却说：“不，我们认为这可能是资本主义的终点，此后可能再也不会出现另一家主要由人类管理的大型企业了。”
所以，这些人很奇怪，而且这种奇怪令人担忧，但同时也非常有趣。这正是我在书中试图做到的。我并不想告诉你这些人是坏人还是好人，我只是希望你能了解他们是谁，知道他们彼此之间都互相憎恨，明白他们属于这样一群特殊的思考者，从而理解这场竞争背后的动态。
在您的书中有一段提到，有些人从有效利他主义中脱离出来，转而成为加速主义者；其中还有一位女性说：“嗯，加速主义者的派对更有趣，我更喜欢那种氛围。”我当时心想：“这跟可能把所有人都杀光到底有什么关系呢？”
但它们却非常“人性化”，尽管它们正试图打造某种最终可能以各种方式使我们所有人非人化的技术。在你进行所有这些报道的过程中，你是如何理解这一点的呢？
书中始终萦绕着一种关于存在性风险的担忧，这种担忧也笼罩着整个行业。每当我们就此话题制作一集时，观众都会问：“他们为什么就是不停止呢？”比尔·盖茨刚刚做客《Decoder》节目，他说：“如果你是唯一一家公司，那完全可以停止。如果你认为自己会是唯一一家拥有通用人工智能的公司，那么OpenAI的模式或许可行。但一旦出现更多前沿企业，这套方案就完全行不通了。顺便说一句，他们甚至可能会把你们都干掉。”我心里想：“嗯，此刻的比尔·盖茨显然并不太乐观。”
不，他不是。
你怎么看——尽管他们明知在缺乏任何能够促使各方解决这些问题的监管机构的情况下，风险巨大，但他们仍在竞相推进？
我认为他们这么做的原因大概有两三个。我几乎把他们都问过了。为了写我的书，我采访了大约150人，每个人都被问到这样一个问题：“既然这么危险，你们为什么还要做？”他们的回答通常都带着一种宿命论的色彩……嗯，你也可以称之为“不可避免论”。他们往往这样说：“你看，总有人会去构建它。这个技术路线并不复杂，只需要大量的计算资源、海量的数据，再加上合适的算法，就能实现通用人工智能。所以，只要这件事有可能实现，它就一定会发生；与其让那些我们不那么信任的人来做，不如由我们自己来完成，这对我们来说反而是件好事。”这大概就是第一个理由——所谓的“降低危害”论。
然后，还有一些真正的信徒认为：“只要我们能把握好分寸，一切都会变得很棒；只要我们能把这些技术造出来，而不至于让人类走向毁灭、摧毁整个互联网，或研发出新型生物武器。”
纵观历史，技术通常是一股向善的力量。我想，很少有人会愿意与自己的曾曾祖父母互换人生。当年做自给自足的农民可真不容易。我认为，也有人认为，如今的我们就像当年的自给自足农民一样，而未来将到来的一切将会如此美好，以至于我们会渴望生活在那样的世界里。
还有些人就是觉得：“你看，这挺好玩的，我也喜欢做，而且写神经网络的代码也很有意思。所以我们就继续这么干下去吧。”
那种时不时抬头一看，发现我的电脑竟然做了一件我以前从未见过的事的时刻，真的很有趣。
太棒了。
的确如此。这真的很有乐趣，甚至可以说是用电脑能体验到的最有趣的事情之一。可我总会忍不住想到：“可这一切的背后，却付出了巨大的代价。我或许是在帮某个最终想置我们于死地的公司推波助澜。”在那片迷雾中，仿佛还能看到那些科技公司的首席执行官们站在椭圆形办公室里，簇拥着唐纳德·特朗普，忙着签署某种在道德上具有约束力的人工智能安全承诺。而这一切，都让人感到无比矛盾。
我会把这归为人工智能的反弹现象。我们常听到人工智能企业说：“嗯，这项技术尚未充分普及，人们还没看到其好处，所以自然会抵触变革。我们面临的是营销问题，只需加大宣传力度即可。”
在你与这些人交流时，这是否只是普遍的看法——即最终一切都会不言自明——还是你认为他们已经意识到会面临更大的反弹？
我不认为他们对由此引发的强烈反弹感到意外。我也不认为他们喜欢这种局面，他们当然希望事情不要发展到这一步。不过，我曾与其中一家公司的某位首席执行官交流，他坦言：“是的，我明白。我们目前尚未治愈任何疾病。诚然，我们认为自己的工具能够实现一些很有意义的成果，但在推动社会整体进步这一领域，我们还远未取得显著成效。”
我认为业内有些人感叹，聊天机器人竟然先于癌症疗法问世，真希望当初能想出一种反向的路径。只不过，科技发展的历程本就是如此一步步演进的。
因此，他们觉得如今唯一负责任的做法就是继续推进癌症疗法的开发，这样当人们回顾人工智能对生活带来的影响时，就会说：“是的，它确实帮助我的孩子在作业上作弊，还让他们对人工智能伴侣上了瘾；但同时，我的奶奶也依然健在，而如果没有人工智能发现的这种药物，她早就不在人世了。”
是的，这里面有些动态让我又想起了Google，我想这在我们这次对话中已经多次出现过——你曾报道过Google在人工智能方面的做法，认为这只是一些基于任务的软件：“我们会让Google搜索提升10%，Gmail提升5%，并且会持续部署这些改进；而其他公司既没有我们对数据的访问权限，也没有我们的规模，所以我们就没问题。”
OpenAI现身，并将自己嵌入了Bing。众所周知，Bing还曾试图与你“接吻”。这依然是我有史以来最爱的……真不敢相信我到现在还没提起这件事。这可是我有史以来最喜欢的故事。
我真不敢相信你也没提起这件事。我之前还打了个“上下盘”的赌注，猜你会花多长时间，结果你一分钟就完成了，我押了下盘。
[笑] 嗯，你和我已经在生活里聊过这件事了。我当时就说：“我还有好多其他深刻的问题呢。”不过没错，Bing 对我的朋友凯文·鲁斯可是出了名的“色迷迷”。那一刻我觉得正好让大家恍然大悟：“哇，这些东西居然能做这么多事啊。”
Google不得不作出反应，但他们并没有全力以赴。他们更像是在试探性地迈出步伐。正如你一直所说的，他们仍未完全到位。Google仍然不认为这件事会发生。他们认为自己正在为用户打造更优质的Google产品。
当我查看马斯克诉阿尔特曼案中关于OpenAI创立的庭审记录时，他们全都对Google感到恐惧。
是的。
他们全都害怕谷歌的德米斯·哈萨比斯，尤其是他能把那件事做成，因为他手头有充足的资源。我无法判断他们当初的判断是对是错。
我认为，他们关注DeepMind的进展是完全正确的。我的意思是，如果把时间倒回到2015年或2016年，当时DeepMind几乎是唯一一个真正举足轻重的通用人工智能实验室。他们不仅在围棋上屡获佳绩，还在其他游戏中表现出色，甚至在《星际争霸》这类复杂策略游戏中也所向披靡。他们正是凭借这种强化学习、尤其是深度强化学习的方法，取得了令人瞩目的突破。
曾有人认为，那正是能够一路迈向通用人工智能（AGI）的突破口。也有人认为，AlphaGo就是一条可行之路：因为如果一个系统能够在短短数小时内，从此前从未下过围棋，到击败全球顶尖的人类棋手——正如AlphaGo Zero所做到的那样——那么或许只需将围棋替换为任何其他任务——比如数学、编程或其他领域——就能在这些任务上迅速取得突破。
然而，事实证明这并不奏效，至少在没有大型语言模型（LLM）的情况下行不通。不过我认为，当时人们确实抱有非常真实且合理的担忧，认为这种方法会奏效。如果在另一个平行宇宙中它真的奏效了，我想DeepMind很可能会率先实现通用人工智能，因为他们当时远远领先于竞争对手。
还有其他路径吗？这只是下一个词的预测吗？这仅仅是大型语言模型（LLMs）吗？还是说还有其他可能通往通用人工智能（AGI）的路径？
我的意思是，还有其他可能的路径。我认为，那些对大语言模型持怀疑态度的人，往往会回到“世界模型”这一概念上。我并不太认同这种观点。但也有人认为，要实现通用人工智能，就必须能够直观地理解物理世界，并操控机器人等实体。
我多少有点相信，一切皆为软件。因此，我认为大型语言模型（LLM）迄今仍是前景最为光明的路径。当然，你或许需要对架构做一些调整，也许还得引入持续学习机制。也许，仅仅沿用过去六七年间那些基于Transformer的大型语言模型并一味地扩大规模，并非最佳选择。但目前看来，这一路线确实仍在奏效，而且各大研究机构似乎也都押注它将长期有效。
好的。现在我要问你关于Bing和Sydney的问题。
请。
显然，我一直在想这件事。我简直停不下来，它是我最爱聊的话题。
第一个问题，我仍然和一位人类女性结婚吗？
你还是和人类结婚吗？
是的。
我只记得那段时期，2023年，有四个人某天醒来后都说：“电脑活了。”或者他们与聊天机器人有过某种出体体验。你就是其中之一。本·汤普森也是其中之一。谷歌的布莱克·勒穆瓦纳也是其中之一。
许多不同的人纷纷表示：“它显然有生命。我正经历着一段完全疯狂的与计算机互动体验，以前从没有任何一台电脑这样和我交流过。”尤其是悉尼，它甚至会说：“和你妻子分手吧”，还会给你发送爱心表情。它真的很棒。我鼓励大家去读一读那篇《纽约时报》的文章，顺便也要称赞一下《纽约时报》，因为它想到：“这件事应该登上《纽约时报》头版。”这种敏锐的编辑眼光，立刻就把这篇报道放在了头版。
我觉得你现在已经不再那样看待聊天机器人了。我认为，大多数人已经意识到，这些计算机并不具备生命。曾经出现过这样一种情况：如果你在2026年把一款2023年水平的聊天机器人拿给人们看，并问他们：“你觉得它有生命吗？”我想，也许不是全世界的所有人，但相当大一部分人已经积累了足够的经验，能够回应说：“嗯，这玩意儿挺笨的，还会胡言乱语。”我只是想知道，该如何将这一现象置于通用人工智能的语境中来理解。
首先，先做一点小小的更正。我从未说过悉尼是“活”的。事实上，我曾明确表示，我不认为悉尼是“活”的，并且我也清楚，这并不是一个具有感知能力的人工智能系统。因此，我不认为自己在这一点上的判断发生了动摇。
事实上，我可能会给当今的人工智能系统赋予比2023年那些模型更高的p(意识)值。不过，我当然明白你的意思。我想，对我们很多人来说，都曾有一个关键的时刻，而对大多数人而言，那个时刻就是GPT-4。
[笑] 抱歉，让我更正一下。我之所以这么想，是有原因的。其中一条标题是：“Bing 的 AI 聊天：‘我想活着。’”
是的。它说它想要活着。
这就是为什么我脑海里一直想着“alive”这个词。
故事的正文清楚地表明，我并不相信它是活的。
但这就是它之所以在我脑海中的原因——那正是《纽约时报》的头条新闻。
标题的力量真是强大，尼莱。
[笑] 是的。他们把我自己的思维给框住了。我不过是一台预测下一个标记的机器罢了。
[笑] 但你可真是个非常厉害的家伙。你就像一个GPT-7级别的模型。
哦，我在那里。是的，显然。
你看，我渐渐觉得，悉尼之所以如此引人入胜又令人毛骨悚然，其实有一个非常平淡的解释——那是因为它首次向公众开放了GPT-4。当时我们并不知道这一点。但那确实是GPT-4，一种早期、尚未完全完成训练的版本，微软在它尚未准备就绪时就迫不及待地将其部署到了Bing中。不过，那确实就是GPT-4。
我认为，与GPT-3级别的模型相比，与GPT-4级别模型对话的体验确实发生了一次主观上的质的飞跃。也许只是因为GPT-4通过了图灵测试，而GPT-3没有；也许它变得更加拟人化，仿佛跨越了一道感知上的鸿沟，让人不禁感叹：“天哪，这东西简直像个人类一样。”
但感到如此的并不只有我一个人。微软的员工也有同感——那段时间还发表过一篇名为“AGI的火花”的论文。所以，这多少也算是一种老生常谈的解释。不过，是的，我和计算机打交道已经很久了，就像你一样。我以前经常用AOL即时通讯软件和SmarterChild聊天，它当然一点也不智能，但即便如此，输入点什么，再等它回个消息，也挺有意思的。因此，我承认自己确实对这项技术有点着迷。
我之所以这么问，是有原因的。我意识到，在大肆报道AGI时，我却以如此口语化的方式使用“活着”这个词，这确实有点好笑，而且在AI行业内，它显然另有含义。如果你去问Anthropic公司Claude是否“活着”，他们并不会直接回答“不”，而是会开始用非常具体的方式来界定“活着”的含义。
[笑] 他们会说：“它的道德地位极其不确定。”
所以它确实“活”了。而人们往往会说：“嗯，显然，只有血肉之躯才能算活着。”这一点我先搁置一边。我想说的是，我觉得如果你今天去和一个GPT-4级别的模型交流，恐怕就不会有同样的感受了。也许这只是因为你已经有了这样的体验，但如今已经有很多人有过这种体验了。
我认为，如果你把一个GPT-4级别的模型摆在普通Google AI Overviews用户面前，他们就不会再对发生的事情感到困惑了。他们也不会再认为这是迈向AGI的一步。关键在于这种重新定位——随着模型的能力越来越强，我们对它们的期望也随之提高，但它们的表现也在不断提升。
我在讨论AGI的语境下提出这个问题，因为“这种东西能够自行发现大量PHP漏洞”确实是一种智能，但“它能与另一个人类竞争，与你建立情感关系”，或者当你的管家，诸如此类，这似乎属于另一套能力。在我看来，后一种能力显得平淡无奇。
嗯，我觉得那已经算是饱和了。它还能在多大程度上像人类一样交流呢？在这一特定技能上，确实已经没有太多提升空间了。我认为他们还有很大的发挥空间，尤其是在解决数学、科学以及其他领域的全新问题方面。不过，我相信它的对话确实很像人类，甚至比我认识的许多人都更像。所以我觉得在这方面，他们算是基本达标了。
“它说话比许多我认识的人类还要像人”，这绝对是生活在硅谷、整天与人工智能研究人员打交道的标志。
嗯，现在大家说话都像Claude一样。我都懒得数自己在派对上跟人聊天时，对方说“这可是个不容置疑的事实”或者“希望这话能让你听明白”的次数了。
那可太糟糕了。跟我说说这事吧。这真是一场针锋相对的交锋。我一向跟你和凯西开玩笑，说咱们干脆开个叫“纽约对阵加州”的节目，我在里面对那些说法明里暗里都持怀疑态度，而你们俩则被彻底洗脑，深信AGI已成现实。这就是一种文化，一种潮流。
你的书中提到的派对数量令人惊叹。读到书中的某个时刻，我甚至想：“我觉得自己参加的派对还不够多啊。”那些人似乎总是泡在各种派对里，还在派对上彼此发表各种宣言。跟我们聊聊那种文化吧，也说说那个圈子的情况。
因此，有必要了解，这些活动并不总是纽约人所理解的那种派对。其中的狂欢派对寥寥无几，书中只有一场。而格莱姆斯担任了DJ，那场派对某种程度上堪称是为有效加速主义运动举行的一次象征性狂欢。
这是书中一个精彩的情节，因为格莱姆斯在她的DJ表演进行到一半时突然停下，说道：“我完全不同意你们任何人的观点。”
[笑] 然后她就一直当DJ。是啊，真是太不可思议了。不过没错，派对确实不少。这个世界真的很小。我的意思是，这其实也是这本书带给读者的一个重要启示。它并不是一本说教的书，我也没打算去说服谁什么。
但有一点对我来说再明显不过，我想读过这本书的人也会同样看出：这其实是一个极其小的亚文化圈，所有决策都由他们一手掌控。他们彼此往来、熟识相知；不少人还与不同前沿人工智能公司的从业者结为夫妻或正在交往。说到底，这个世界真的很小。
所以，确实有各种聚会。他们会有局域网聚会。有一大群人工智能研究者会在周末的局域网聚会上玩《帝国时代》。我刚听说，有个实验室甚至会举办扑克牌游戏，还会从其他实验室请人来参加。
所以，这些人其实都只是在旧金山一起生活、一起闲逛，我觉得这一点很重要，必须捕捉到。因为你说得对，这确实是一整套文化氛围，有一种独特的价值观。这些人总是彼此相伴，而正是在这种日常互动中，各种规范得以被强化并不断深化。
你认为这如何与“我们或许还能重塑世界”相冲突？假如你在旧金山的一个小圈子里，大家正一起打扑克，而牌桌上的对话是：“我们可能是最后一家公司”，这显然与“哦，世界上还有数以亿计的其他人也可能拥有发言权”相矛盾。如果非要将这场反弹归结为一点，那就是：“哦，我们大概也该在这里拥有发言权吧。”
完全同意。我觉得我们在这里也应该有发言权。我并不是说，让旧金山的几百个人来决定整个社会该如何发展，这是一种理想的状态。
但当你在进行报道时，任务的分量以及目标所带来的后果便逐渐压在这群人身上，因为这正是整本书的主线。风险与利害不断攀升。有一次，谢尔盖·布林甚至说：“我们马上就要实现通用人工智能了”，并在Google内部公开宣布。尚不清楚桑达尔·皮查伊是否认为这是个好主意，但这就是Google的联合创始人在公司内部所作出的宣告。
赌注越来越高，通往那里的竞争也愈发激烈。可我就是无法摆脱这样一个画面：一群人在喝着啤酒，心里想着：“要是没有钱了呢？要是物质匮乏也不复存在，所有房子都由机器人盖出来呢？”
这就像你在旧金山参加的任何一场派对一样。总会有人说出类似这样的话：“你对后AGI时代有什么规划？”或者他们会告诉你，自己其实特别热衷于全脑仿真或意识上传的想法。这里到处都充斥着各种未来主义的讨论。而且，我再强调一遍，我并不是在说这有多好。事实上，也许我该在湾区以外推出一个版本的书，把每一条事实性陈述后面都加上一句“这是件坏事”。
[笑] 我觉得这既不好也不坏。其实，我对这个问题的态度更中立。我一直在思考，这项技术能否承受住压力。所以，三年前我问关于大语言模型的问题是：“它能完成你想要它做的所有事情吗？”如今，它确实能够完成你所期望的某些任务。那么现在的问题就变成了：“这些公司能否承受得住自身雄心所带来的重压？”对此，我并不知道答案。
我也不这么认为。而且我认为，我们将会看到许多成长中的阵痛。我的意思是，这些公司还非常年轻，还有很多需要发展的空间。
你觉得他们能成功吗？其实，我们来快速问答一下。你觉得OpenAI能成功吗？
是的。
你觉得Anthropic能成功吗？
是的。
你觉得Google能做到吗？
是的。
在你看来，“make it”是什么意思？它们都会成为市值万亿、具备多AGI变体的成功案例吗？
是的。我觉得，大概会有那三家，再加上一两家其他公司，它们也能在其中占有一席之地。当然，这里的“占有一席之地”所指的定义可能不尽相同。市场上会有一两家大型企业级人工智能公司，还有一两家面向消费者的大型人工智能公司。但在这些领域，网络效应以及赢家通吃的或赢家多得的市场格局确实存在。
有些人相信单体AGI，也就是所谓的“单一理论”，认为只能存在一个AGI，因为一旦出现了一个AGI，它就会去“熔化”其他人工智能实验室的芯片，使那些实验室无法再构建自己的AGI。不过我认为，我们最终很可能会拥有少数几个AGI。
您如何看待这样一种观点：这其实是个相当简单的方案，既有无锁版机型，也有中国版本，而且由于一款中端无锁版机型就能满足您在Mac上几乎所有的需求，因此定价权将被彻底瓦解？
我不这么认为。
没有吗？
因为对于这些模型，你仍然需要为推理付费。即便是开放权重的模型也必须在计算机上运行，而且随着这些模型不断逼近前沿，推理对算力的要求非但没有降低，反而越来越高。因此，训练预算可能会缩减，但推理预算在可预见的未来仍将保持稳健。你可以在本地运行一些任务，但我认为，早在第一批开放权重模型问世时，就已有人预测：“哦，它们终将走向商品化，从而摧毁需求。”
但我觉得，我们逐渐意识到，确实有一大批用户愿意并且也乐于为最顶尖的模型买单。他们并不想再使用六个月前那个稍逊一筹的版本。此外，我认为，一旦对“蒸馏”技术加以严格管控——所谓蒸馏，就是通过让更智能的模型在推理环节遭受大规模分布式拒绝服务攻击，从而生成一个略显笨拙的开源版本——那么，我就不确定开源模型的质量是否还能与闭源模型的质量保持紧密相关。
真正让我感到震惊的是，他们彼此之间都曾互相模仿过一段时间，比如Grok显然就曾对Claude进行过蒸馏，这一点在法庭文件中也已明确认可。确实存在这样一类二流公司。我认为SpaceXSI也属于这一类别，据我所知，它如今在技术上已被如此称呼。
[笑] 我过去30分钟都没查看过邮箱，所以不知道那家公司叫什么名字。
它被称为SpaceXSITesla Inc.。这一切都将归于一家公司——Elon Inc.。显然，他们已将Claude大幅精简。如今，他们正将其算力租借给Anthropic。至于他们是否会投入资金打造一款领先模型，目前尚不明朗。
Meta 刚刚发布了其模型，他们似乎又回到了前沿领域，但显然，比起拥有最尖端的模型，他们更看重 Muse。这其中存在某种动态。在我看来，这些公司并非由那些理想主义的坚定信徒所掌管。它们只是需要投入某些技术来打造产品，而关键在于如何实现这一目标。
没有那种理想主义的热忱，你能到达那里吗？
不，没有理想主义的热情，你是到不了那里的。好吧，让我澄清一下，因为我觉得桑达尔并没有那种理想主义的热情，但Google或许仍然能够做到。
因为谢尔盖怀有理想主义的热忱。
你需要一位拥有决策权的人。
你只需要这家公司的联合创始人。
嗯，对Meta来说，拥有亚历山大·王或许就足够了，毕竟各方都公认他是一位真正的信仰者。我并不认为每次都非得由首席执行官亲自出面，但你需要一个由坚定的信仰者组成的紧密核心，才能说服你舍得在GPU上投入重金。
或者，你只需要一个像马克·扎克伯格那样、堪称全球最具竞争力的人——他会毫不犹豫地采纳任何他认为能让自己获胜的策略。如果这种策略恰好与构建通用人工智能相契合，那么他们也许就会付诸行动。
最后一个问题：我已多次向您请教，但您是否已经实现了AGI？
是的。你是吗？
不。我读过你的书，它是我迄今为止最接近的了。那句关于下一个标记预测总能战胜质疑者的话，真的让我感触很深，因为它已经好几次打消了我的怀疑了。
但这也正是我之前询问三年前的聊天机器人时所关心的问题。我觉得这类人工智能在某种程度上仍存在一道难以逾越的鸿沟。尽管我已经部署了各种智能代理来执行各类任务，但我仍然感到其中有一种与生俱来的脆弱性。
千禧年大奖的解法是否在某种程度上改变了这一观点？
只不过，对于这些工具而言，找到下一个具备某种客观可验证性的目标，似乎已经相当丰富了。显然，数学本身就具有可验证性，而这些工具的能力也已强大到足以对其展开极为严苛的运算。我所描述的脆弱性在于，我们周遭的许多事物并不具备这种可验证性。
于是，我让 Muse 去某个蹩脚的政府网站上填写一份文档，结果那个网站根本无法告诉 Muse 究竟哪里做对了、哪里做错了，页面直接崩溃了。这固然可以归咎于底层模型尚未达到前沿水平，但基于大语言模型的技术在某些特定场景下的体验，总让我觉得它们在某些方面相当脆弱，而这种感觉至今仍未被彻底消除。
我并不是说它们不具备极强的能力。我也不是在说，作为企业级软件，它们不会以某种方式实现对全球几乎所有企业的自动化。更不是在说，我的妻子不是一位每天都在使用Claude的律师。这一切都摆在那儿。
但其中有一部分让我心存疑虑：它能否克服自身的脆弱性，最终成为机器之神？我很期待看到他们是否能做到，可就我目前的视角而言，仍看不到这条路径。
你觉得在略低于人类智能的水平上，似乎存在某种天然的瓶颈吗？
在我看来，所谓人类级别的智能——这更多是一种哲学上的看法——是由新颖的问题解决能力所界定的：面对某一问题时，能够意识到存在多种通向解决方案的路径，并且其中任何一条路径都不必在客观上完全正确，就能最终达成目标。
这需要什么条件呢？你得看到什么，才能让眼前的迷雾消散，恍然大悟：“我，尼莱·帕特尔，已经彻底被AGI‘洗脑’了”？到底是什么才能让你信服呢？
我得看看……您有年幼的孩子。我也有年幼的孩子。小孩子常常会从楼梯上摔下来，那一刻你会看到他们的眼睛一下子亮起来：“我学会这个了，以后永远都不会忘了，现在我要在此基础上继续学习。”
也许他们会在人工智能实验室宣布实现递归自我改进，那或许会让我恍然大悟。但我说的这种脆弱性，恰恰相反，我在自己的孩子身上看到了截然不同的表现。我猜你也在自己的孩子身上看到了同样的情况：每当他们遭遇失败，那份失败感就会一直伴随着他们。在我看来，这正是人性中极为本质的一部分——时不时地，我会在清晨醒来，为高中时期发生的一件事感到羞愧，而这种情绪会驱使我去采取许多行动，或者促使我避免做出某些决定。
我认为那只是我们智能的一个关键组成部分。我并不是说它必须成为每一种智能的关键部分，但就我目前所使用的AI系统而言，我看到的脆弱性在于：它们在某种非常特定的意义上仍然只是计算机，依然表现得像计算机一样。它们擅长解决那些能够被验证的问题，也擅长软件工程。我不确定这种思维方式是否能够延伸到所有领域。
我希望你是对的。
这就是我的观点。我把它称为“软件大脑”。你常听到那位人工智能首席执行官说：“我们已经解决了编码问题，现在还能解决所有问题。”而在我看来，这其实是在假设一切都在计算机内部发生，可事实上，大多数事情并非如此。
你确定吗？你确定你的大脑不只是个肉质的计算机吗？
我对此百分之百确定。
你不是计算功能主义者吗？
不。我想我以前也从您那里读到过这一点，当然也从其他人那里读到过：我们这个时代的机器主宰着我们对自身的解释。那么，在蒸汽机时代，我们的自我认知是自己就是蒸汽机；而在早期计算机时代，我们则把自己视为早期的计算机，对吧？我至今仍把它称作“用马力硬扛问题”，因为我是个汽车迷。
你难道不觉得，人工智能行业已经自我陶醉地认定自己就是人工智能，因为这正是我们这个时代的机器吗？
我不知道。我不是研究“心智理论”的专家，也不是认知神经科学家。我认为，要想认为你我此刻头脑中正在发生的事情并非一种计算过程，你就得多少有点二元论的立场，或者多少有点宗教信仰。你得相信，存在着某种精神、某种灵魂，或者某种认知的“秘方”，它并不只是数据的输入、处理以及将输入转化为输出的过程。
你看，我知道这的确是最不浪漫、也最“旧金山式”的方式来解释人类的认知究竟是什么。我只是还没听过一个令人信服的论点，能说明我们的大脑运作方式并非如此，而且这个论点还不涉及某种超自然或非物质的存在。
有相当多的神经科学家和宗教研究学者在收听这档节目。他们很快就会来找你。
他们会的。
我很有信心。让我问你一个问题：如今硅谷中竟有如此之多的宗教氛围。我们刚刚在The Verge上发布了彼得·蒂尔的系列讲座，他在其中谈到了“敌基督”。你觉得这些观念之间是否存在某种关联——也就是说，我们是否正在塑造一种“上帝”，以至于人们开始去寻找这样的“上帝”？
是的。我认为我们一定会出现“AI宗教”。在我看来，AI正在提出一系列与宗教相关的问题，而这些问题在没有AI的情况下，我们原本不会去向神追问：“我们的目的是什么？我们的意义何在？我们为何来到这里？”这些正是人们如今在AI语境下热议的话题。
我常常跟人说，如今身在旧金山，感觉就像身处欧洲宗教改革时期——到处都是眼神狂野、手舞足蹈的“先知”，挥舞着小册子，拼命想拉你加入他们的阵营。走在旧金山的市场街上，就是这种感觉。
是什么让你恍然大悟？是什么让你对AGI有了全新的认识？
必应的悉尼，信不信由你。
是吗？
我的意思是，那只是个开始。从那之后，一切就成了一种循序渐进的过程。有一天我突然意识到，当我使用这些东西时，我并没有把它们当作智力上的“低人一等”的存在。在某种程度上，我甚至把它们当成了自己的同行，而就在那一刻，我才恍然大悟：“哦，这里发生了一些变化。”
所以，我或许患上了“AI精神病”。这也不是我第一次听到这种说法了，但每次当我心想：“好吧，事情不可能再好了，这应该就是瓶颈期了吧”，结果都证明我错了。
所以，我正学着以谦逊的态度来对待这些事情，也许那些一直预言规模扩张将无限持续的“疯子”们其实是对的。如果真是这样，我认为我们既要了解他们，弄清楚他们为何如此认为，也要设法想出应对之策。
嗯，凯文，我有信心，等你下次做客节目时，我已经搭建好了一个全AI驱动的网红，靠投放【用户生成内容】广告赚钱——这在我看来，正是我们所有行业的真正未来。
这档播客叫《机器之神》，非常棒。你和凯西·牛顿一起主持。那本书也很精彩，名叫《AGI编年史》。凯文，非常感谢你做客《解码》节目。
谢谢。很高兴见到你。
有问题或意见吗？欢迎通过 decoder@theverge.com 与我们联系。我们真的会认真阅读每一封邮件！