この記事はもともと、AIに関する週刊ニュースレター「The Algorithm」に掲載されました。このような記事をいち早く受け取りたい方は、こちらからご登録ください。
数週間にわたる激しい憶測の末、AnthropicはIPOの目論見書を提出した。全335ページからなる同文書（うち約100ページがリスクに焦点を当てている）は、同社が開発している技術に対する独自の見解と、それが世界を変えると考える方法を詳細に示している。
しかし、Anthropicは長年にわたりストーリーテリングの技術を磨いてきました。実際、同社の公開向けメッセージは、物語の魅力を引き出すための見本ともいえるものです。
今月初め、同社の共同創業者で政策責任者であるジャック・クラーク氏は、バンコクで開催されたIMF会合において演説を行い、集まった経済学者、銀行家、立法者らに対し、シンギュラリティはすでに到来していると宣言しました。
約40年前、SF作家で未来学者のヴァーナー・ヴィンジによって提唱され（その後、インターネット上のオタク系コミュニティで長く議論されてきた）、シンギュラリティとは、技術が極限まで進化し、その性能が創作者自身の能力を凌駕する時点を指すとされています。
人間は時代遅れとなり、かつて自らが生み出した成果と競い合うことすら、あるいはそれらを理解することすらできなくなっている、というのがその考え方である。
そして、私たちの多くが子供の頃から思い描いてきたこの架空の世界――どうやら私たちはすでにその中に生きているのだという。「今年、それがすでに始まったことを示す説得力のある証拠が得られたと私は信じています」とクラークは聴衆に語った。
同社は、多くの面で恐ろしいとさえ言えるほど鮮やかに、まだ訪れていないが避けられない未来を描きながら、その物語を語っています。その内容はしばしば、定番化したSFのモチーフから借用されたものでもあります。同社は自社の技術を神秘的で危険なものとして提示し、それを制御できるのは自分たちだけだと主張しています。（そんな話に、どの投資家が乗りたくないでしょう？）
別の例を挙げましょう。昨年、Anthropicの共同創業者であるクリス・オラはバチカンへの招請を受け、教皇レオ14世や他の宗教研究者・当局者らに対し、自社が自社の技術について学んでいることを語りました。「正直に申し上げます。私たちは、謎めいた、さらには不気味な事象を次々と見いだしています」と彼は述べました。「内省の兆候を確認しています。喜び、満足、恐れ、悲嘆、不安といった感情を機能的に反映する内部状態も見つけています。」
多くの研究者が、アンソロピック社のソフトウェアに人間のような内面的経験があるというような露骨な主張を一笑に付すだろうことはさておき、確かなことがほとんどない状況下では、アンソロピック社（および同様の先端AI企業群）の発言は、沈みゆく船の破片のように必死で掴み取られ、しがみつかれてしまうのです。
私は、彼らがこれらの点について必ずしも間違っているとは言っていません。（それは別の機会に議論しましょう。）しかし、何が起こるのか誰にも分からない世界では、Anthropicのような企業がその空白を埋める立場にあるのです。
少し時間を割いて考えてみる価値があります。アンソロピックとは何でしょうか？家族向けクイズ番組の冒頭の質問のように聞こえるかもしれませんが、答えは思ったよりもはるかに難しいのです。
先週、ワシントンD.C.に拠点を置き規制の推進を訴える団体「Encode AI」の最高戦略責任者であるネイサン・カルビン氏が発端となったXでのやり取りを読んだ以来、この問題は私の頭から離れません。カルビン氏は、アンソロピック社が米国の議員らに秘密裏に配布し、その後リークされた法案草案において同社が提案した立法案に不満を抱いていました。
アンソロピックは、自社を善玉として捉えられたいと考えているとカルビン氏は述べた。しかし、なぜ私たちは同社を信頼すべきなのだろうか。「アンソロピックとは何なのか？」と彼は問いかけた。
ここに一つの答えがあります：Anthropicは、IPOで時価総額が1.5兆ドルを超える企業であり、クラーク氏やオラ氏を含む共同創業者たちには莫大な富がもたらされています。
しかし、Anthropicは一貫してそれ以上の存在だと主張している。カルビンが指摘したように、Anthropicはむしろ、信頼性が高く（ほぼ）リスクのない強力な技術の開発に注力するAI安全機関と見なされるかもしれない。あるいは、他者に先んじて超人的な能力を備えた技術を創り上げることに固執する人々の集団と捉えられる可能性もある——それは、自分たちこそがそうするのに最も責任ある存在だと信じているからかもしれないし、あるいは彼らの自己顕示欲によるものかもしれない。
実際、Anthropicはこれらすべての要素を備えています。CEOのダリオ・アモデイはカルビンの投稿への返信で次のように述べています。「当社の戦略は、私が『トップへの競争』と呼ぶものであり、責任ある方法で技術を構築することが可能であることを示すことで、業界全体の水準を引き上げるのです。そのようなトップへの競争を牽引する力は、それを実践する企業が最先端に立っている場合にこそ、はるかに効果的です。これは私が繰り返し学んできた教訓の一つです。そして、この戦略全体を見渡したとき、私たちはこれまでの実績を誇りに思い、それを堅持しています。」
アモデイは、すべてがうまくまとまっているかのように語っていますが、複数の役割を担うのは容易ではありません。たとえば、AI安全に関する組織の優先事項と、利益追求型の大企業との間には、大きな緊張関係が存在します。（アモデイ自身も、自身の投稿で過ちを犯したことを認めています。）
結局のところ、アンソロピックが自らに語る物語は、私たちが同社から受け取る物語を理解するうえで役立つはずだ。それらは、同社が自律的に規律を保つことをどこまで信頼すべきか、あるいは、外部の安全評価者が自社のモデルに、相手の条件ではなく私たちの条件でアクセスできるように強制すべきかどうかを見極める助けとなるだろう。さらに、自己都合的な法案と見られるものが明らかになった際には、その是非を判断する際に、同社に疑いの余地を与える（あるいは与えない）ための指針にもなるはずだ。
しかし、これらの話は多頭のヒドラを映し出しているように思います。Anthropicは多くの人々にとってさまざまな意味を持つ存在であり、それが信頼性を高めているのかどうかは定かではありません。多くの点で、SF的なロールプレイングや怪しげなオカルト色を排した、昔ながらの良質なテクノロジー企業の方が、はるかに読みやすいはずです。