本故事最初发表于《The Algorithm》,即我们的每周人工智能通讯。如需第一时间将此类文章送至您的收件箱,请在此处订阅。
经过数周的疯狂猜测,Anthropic已提交了其首次公开募股(IPO)招股说明书。这份长达335页的文件中(约100页专门阐述风险),详细介绍了该公司对其所研发技术的独特见解,以及它认为该技术将如何改变世界。
但Anthropic多年来一直在磨练其叙事技巧。事实上,其对外传播堪称叙事艺术的典范。
本月早些时候,该公司联合创始人兼政策主管杰克·克拉克在曼谷举行的国际货币基金组织会议上发表演讲,向与会的经济学家、银行家和立法者宣布:奇点已经到来。
大约40年前,科幻作家兼未来学家弗诺·文奇首次提出了“奇点”这一概念(并在互联网上较为极客化的圈子里长期引发热议),其设想是:当技术发展到足以超越创造者自身能力的那一刻,即为奇点。
按照这种观点,人类已被远远甩在身后,再也无法与自己昔日创造的成果相抗衡,甚至难以理解它们。
而这个我们许多人自幼便幻想过的虚构世界?显然,我们早已身处于其中:“我相信,今年我们已经获得了令人信服的证据,证明它如今已然开启,”克拉克对他的听众说道。
该公司讲述了一个生动(且在许多方面令人不安)的故事,描绘了一个它认为不可避免但尚未到来的未来,而这一未来往往借用了那些早已被用滥的科幻梗。它将自己的技术呈现为神秘而危险,并坚称自己是唯一一家值得信赖、能够驾驭这项技术的公司。(哪位投资者会不想分一杯羹呢?)
再举一个例子。去年,Anthropic的另一位联合创始人克里斯·奥拉赫受邀在梵蒂冈发表演讲,向教宗利奥十四世及其他宗教学者和官员介绍了其公司对其技术所取得的最新发现。“我坦率地说:我们不断发现一些令人费解、甚至令人不安的现象,”他表示,“我们发现了内省的迹象,也发现了在功能上与喜悦、满足、恐惧、悲伤和不安相呼应的内在状态。”
且不说许多研究者会嘲笑这样一种直白的论断——即Anthropic公司的软件具备类似人类的内在体验。在如此之少的事情都难以确定之际,Anthropic(以及其同行的前沿人工智能企业)所言所语往往被人们如抓救命稻草般紧紧抓住。
我并不是说他们在这些问题上就一定错了。(那留待他日再谈。)但在这样一个无人知晓未来走向的世界里,像Anthropic这样的公司便得以填补这一空白。
不妨花点时间问一问:Anthropic究竟是什么?这听起来像是家庭问答节目里的开场问题,但其实答案远比你想象的要复杂。
自从上周在X平台上看到一场由Encode AI首席战略官内森·卡尔文发起的讨论以来,这个问题一直萦绕在我心头。Encode AI是一家总部位于华盛顿特区、致力于推动监管的组织。卡尔文对Anthropic在一份秘密分发给美国国会议员的草案中提出的立法方案感到不满,而该草案随后被泄露。
“Anthropic希望被视作‘好人’,”卡尔文说道。但为什么我们要信任它呢?“Anthropic到底是什么?”他问道。
以下是其中一个答案:Anthropic是一家公司的IPO估值超过1.5万亿美元,为其联合创始人——包括克拉克和奥拉——带来了巨额财富。
但Anthropic始终坚称,它远不止于此。正如Calvin所指出的:Anthropic或许更应被视为一家专注于研发可靠且(几乎)无风险的强人工智能技术的人工智能安全机构;又或者,它是一群决心在他人之前打造出具备超人能力的技术的人——也许是因为他们自认为最有责任承担这一使命,也许只是出于自身的自负。
事实上,Anthropic 正是上述所有特质的体现。正如首席执行官达里奥·阿莫代伊在回复卡尔文的帖子时所言:“我们的战略始终是我所说的‘向顶尖冲刺’——通过展示如何负责任地构建这项技术,我们能够为整个行业树立更高的标准。如果践行这一战略的企业身处前沿,推动这场‘向顶尖冲刺’的力量就会强大得多;这正是我一再领悟到的一条经验。纵观整套战略,我对我们的过往表现深感自豪,并始终坚持这一立场。”
阿莫代伊的表述听起来仿佛一切尽在掌控,但身兼数职实属不易。例如,人工智能安全机构的优先事项与以盈利为导向的大型企业之间存在着巨大矛盾。(阿莫代伊在其帖文中也承认自己曾犯过错误。)
归根结底,Anthropic 自己讲述的故事应当有助于我们理解它向我们讲述的故事。它们应当帮助我们判断,在多大程度上可以信任它进行自我监管,或者是否应当强制要求它按照我们的条件而非其自身条件,向外部安全测试人员开放其模型的访问权限。当看似带有自利性质的立法草案浮出水面时,它们也应当帮助我们决定是否给予它合理的怀疑(或不予怀疑)。
但我认为,这些故事揭示出的是一条多头九头蛇。Anthropic在不同人眼中有着多重面貌,而我并不确定这是否让它更值得信赖。从许多方面来看,一家传统意义上的科技公司——没有科幻式的角色扮演,也没有那些玄乎其玄的说法——反而更容易让人看懂。