本日は、AI業界の最近の劇的な変革を詳述した新刊『The AGI Chronicles』の著者でありジャーナリストのケビン・ルース氏に話を伺います。
ケビンは長年ニューヨーク・タイムズの記者であり、人気ポッドキャスト「Hard Fork」のホストでもあったが、彼と同番組の友人であるケイシー・ニュートンは、先週スタートした全く新しいテック系ポッドキャスト「Machine Gods」を立ち上げるため、ニューヨーク・タイムズを退職した。
ケビンと私は、Machine Godsの立ち上げについて、そしてニューヨーク・タイムズから独立したクリエイターへと転身する経験について語り合いました。もちろん、人工一般知能の構築を競う企業群に鋭く迫った、極めて優れた取材に基づく本書についても話しました。
ケビンから、この件を取材するとはどのようなものだったのか、これらの人物や当時の時代背景、そして今後の展開についての見解を伺いたかったのです。念のためお伝えしておきますが、この対話は最後にかなり哲学的な方向へと進みますが、ぜひ一読する価値のあるやり取りになると思います。
では、ケビン・ルースが『AGIクロニクルズ』で、機械神の登場からAIの今後の行方について語ります。さあ、始めましょう。
本インタビューは、長さと明確さを考慮して一部編集されています。
ケビン・ルース、あなたは『The AGI Chronicles』の著者であり、新しいポッドキャスト『Machine Gods』の共同創設者兼共同ホストです。Decoderへようこそ。
お招きいただき、誠にありがとうございます。
私は『Machine Gods』の第1話を聴いていましたが、あなたとケイシーは、技術的にはあなたがCEOの肩書を持っているという事実について議論していました。
本当です。コイン投げで私が勝ち、誰かが必要だったのです。私たちのように会社を立ち上げる際には、最初のスキャンダルが必ず発生したときに議会に呼び出されるべき人物を明確にするため、CEOとして誰かを名簿に記載しておく必要があります。ですから、その役割は私になります。
面白いのは、あなたがDecoderのCEOだからです。つまり、私はあなたにDecoderに関する質問をしなければならなくなるということですね。
[笑い] では、さて、私はCEOになってからまだ5分ほどですが、ほとんどの日は正直、自分がCEOだということを忘れてしまいます。
正直なところ、それは番組に登場するほとんどのCEOの姿と一致しています。彼らは皆、まるでたった5分間しかやっていないかのように振る舞います。いずれその話にも触れましょう。
あなたの著書についてお話ししたいと思います。そのタイトルは『The AGI Chronicles』です。本書は、AIが注目を集め、多くの面でより商業的な製品へと進化するなかで、主要な最先端研究施設と、それらが経験してきた文化的変化を綿密に取材・記録した一冊です。
でも、まずはマシン・ゴッズから始めましょう。あなたは長らくニューヨーク・タイムズの記者でしたね。もちろん、聴衆の皆さんはご存じだと思いますが、私とあなたとは長い間お付き合いしています。私が知る限り、あなたがユーチューバーになりたいという思いは、ずっと頭の片隅にありました。あなたは「どうやったらそこにたどり着けるんだろう？」と常に考えていて、私はいつも「やめなさい、やらないほうがいい」と言ってきました。それでも、あなたはやりました。
あなたはThe Timesを退職し、友人のケイシー・ニュートンとともに自身のポッドキャストを開始しました。それは、かつて大変人気を博したポッドキャスト「Hard Fork」の次世代版で、非常に優れていました。あなたには心から期待していますが、いったい何がきっかけでその一歩を踏み出したのでしょうか？
Vergeのサブスクリプション会員の皆さま、ポッドキャストをお聞きになる場所にかかわらず、広告なしのDecoderへ特別アクセスできることをお忘れなく。こちらへどうぞ。まだご加入でない方は、こちらからお申し込みください。
ええ、私が自分自身を説得しようとしてきたのと同じくらい長い間、あなたは私をこれから引きとめようとしてきましたが、結局うまくいっていません。だって、今ここにいるじゃないですか。
ええ、私は失敗しました。完全に失敗しました。
いいえ、実は、いくつかの非常に合理的な理由から、メディア企業は長らくYouTubeや他の動画プラットフォームに全面的に注力することにやや慎重になってきました。そのような戦略を取った企業であっても、必ずしも良好な結果を得られたわけではないのです。というのも、多くの——
ええ、彼らは日常的に動画へと転換し、さらには死にも関心を向けています。
そうですね、動画に舵を切るか、そうでなければ自前で回収できないような施策に多額の費用を投じて無駄にしてしまうことになります。ですから、そこにはいくつかの構造的な経済的要因があると思いますが、同時に、そうした長期的な投資を行うだけの体制を整えている機関が少ないということも理由の一つだと考えています。
ご存じのとおり、私は長年にわたり、メディアにおける「YouTube化」を阻止しようと努めてきました。あなた方も自社の側でその「YouTube化」の流れを逆転させようとしていますが、私にはやはり、現在世界で最も重要なメディアプラットフォームであることは明らかだと感じられます。これまでの歴史において、ジャーナリズムが中心的な地位を占めてこなかった場所でもあります。
YouTube全体を見渡し、あなたや私が高品質なジャーナリズムとみなすコンテンツがどれほど占めているのかを評価しようとすれば、そこではごくわずかな部分にすぎません。
ですから、私の使命の一部は、経済面でもクリエイティブな観点からも持続可能な形で、YouTubeや動画全般をどのように展開すればよいのかを解明し、さらにさまざまな試行錯誤を重ねていくことです。
これはYouTubeに載せるべき顔ではない。だから、ほかの人たちも巻き込んで、いくつかのフォーマットを確立したいと思っている。とはいえ、The Vergeがそこで成し遂げたことを参考にしているし、ジョアンナ・スターンやMKBHDといった人たちの取り組みにも注目している。私にとって、それは非常に魅力的で、テキストやポッドキャストに比べて競争がはるかに少ない領域だ。
Machine Godsは、NPRと共同で制作しているポッドキャストで、これについてお話ししたいと思います。しかし、これをYouTubeのプロダクトだと捉えていますか？
私たちは、動画を最優先にしたいと考えています。つまり、これまであまり重視してこなかったほど、見た目の良さにもしっかりと配慮するということです。また、聞くだけでなく、観たくなる理由をたくさん提供できるよう努めていきます。
もちろん、動画ポッドキャストが苦手な方もいらっしゃることは承知していますので、オーディオのリスナーにも楽しめるコンテンツをお届けしたいと考えています。しかし、これは時代の流れです。今やポッドキャストを制作するなら、必ず動画も併用するのが当たり前になっています。そこで私たちは、その方向性をしっかりと受け止め、中年ジャーナリスト二人がYouTubeで作り上げられるほど質の高い動画版を提供できるよう努めていきます。
まさに、メディアの未来は中年世代のジャーナリストたちがYouTubeへと舵を切ることにある。私も同じように感じており、今では動画制作をより多く手がけていますし、それが私たちの取り組みです。素晴らしいものになるでしょう。
離れるもう一つの理由、そしてこれを実行する理由——もちろん、皆さんもご存じのとおり、私はケイシーとも友人関係にあり、彼とはこの件について長い間話し合ってきました——は、AIの時代が到来しているからです。プラットフォームの転換が起きています。世界には、新たな企業や新しいプレイヤー、そして議論すべき新しいアイデアが登場しています。面白いことに、こうした状況下では通常、メディアの変化も伴います。私たちが物語を伝える方法や、物語を表現する形式は、私たちが取り上げるテーマや技術の進展とともに、しばしば変化していきます。
ここでは、YouTubeが最も安定したメディア基盤であると感じられます。変化を遂げつつも、YouTube Shortsや、今では自分の顔まで含めてあらゆる要素をA/Bテストできるようになったとはいえ、それでもなお最も一貫しているプラットフォームです。一方で、Instagramはこれまでに大きな変化を経験しており、今後もその変化は続いていくものと思われます。
これらの新しいストーリーを語ろうとするなかで、YouTube が最も安定した制作環境だと思われますか？
そうですね。もちろん、すべての卵を一つのカゴに盛り込んではいけませんから。そのため、Apple PodcastsやSpotifyでも動画を配信しており、今後はあらゆるプラットフォームで展開していきます。とはいえ、現状は比較的安定していると感じています。
私がいつも疑問に思うのは、YouTubeを置き換えるには一体何が必要なのか、ということです。多くの企業がYouTubeの代替を目指してきましたが、そのためにはクリエイターにとってもユーザーにとってもより優れた体験を構築するだけでなく、人類が生み出した膨大な映像コンテンツそのものを再現しなければなりません。例えば、配管工がそれぞれの流し台の修理方法を説明する動画を600万本集め、それらをプラットフォーム上にアップロードするといった作業が必要になるのです。これほどまでに広く浸透したサービスを置き換えるのは、極めて困難なことです。多くの人々にとってYouTubeは非常に根強く定着しており、今後もさらに成長を続けるだろうと私は考えています。
AIについて話す際に改めて触れますが、かなり前のことです。私はGoogleのCEOであるスンダー・ピチャイにこう尋ねました。「では、ウェブサイトがもう存在しなくなったら、どうするつもりですか？」すると彼は少し困ったような表情で、「まあ、YouTubeがありますから」と答えました。これには反論の余地はありません。確かにそうです。そして、それはこれからもどんどん成長し続けるでしょう。
ニューヨーク・タイムズから、いわばクリエイター経済へと移行する過程で、最も驚いた点は何でしたか？
まあ、私たちはまだ始めたばかりですが、これまでのところ驚いているのは、ビジネスに関するあらゆる面がとても気に入っている点です。ジャーナリズムの世界では、常に自分の専門分野にとどまるよう教えられるものですが、私はこれまで一度も事業を運営したことがありませんでした。ケイシーは事業を経営してきましたし、彼がそれを楽しんでいることは知っていました。でも私にとっては、こうした取り組みはまったく新しい領域で、すべてが楽しいわけではありません。名誉毀損保険の保険料見積りを交渉するような作業は、私にとって必ずしもやりがいを感じるタイプの仕事ではありません。とはいえ、実際に事業を運営することに関しては、創業者という立場には確かにそれなりの魅力があるのかもしれません。
ええ、まさに良いタイミングですね。面白いことに、あなたやケイシー、それに先ほど独立して自身の事業を始めたジョアンナと話していると、この話題がよく出てきます。私から見れば、それこそが私が長年この仕事を続けてきた理由でもあります。もし自分がビジネスの運営をやめてしまったらどうなるだろう？ それは選択肢ではないように思えます。これこそがメディアの未来です――自らのビジネスを自らコントロールし、自らのオーディエンスを自ら掌握するということ。そこには非常に強力な可能性が潜んでいます。
私がお話ししたいことの一つ、そしてその後はぜひ本書についてじっくりとお話ししたいのは、AIに関する報道の読者層です。なぜなら、私はそれを二つの側面から捉えているからです。一つは、その技術を創り上げる人々で、AIを心から愛し、あらゆる情報を積極的に消費したいと考えるグループです。もう一つは、AIを心底嫌い、そのすべてが偽物だと考えているグループです。
そして、その中間に位置する、製品の有用性が一段と高まった層も存在します。それらを現状のまま評価する必要があります。数年前にはあまり役に立たなかったものでしたが、約束と現実が一致していなかったこともありました。しかし今では、日々、以前はできなかった新たな機能を一つずつ備えるようになっています。それが世界中のすべてのウェブサイトをハッキングすることなのかどうかはさておき、AIはかつてできなかったことを次々と実現しており、利用者のニーズも変化しているようです。
Machine Godsのターゲットユーザー層について、どのように捉えており、今後どのように拡大または変化するとお考えですか？
つまり、今は自分たちが良いと思われるさまざまな試みを試しており、それが自然な受け手に届くことを願っています。ただ、確かにオーディエンスは変化しているというご指摘は正しいと思います。しばらくの間は、「cope」に対する需要が非常に高かった時期もありました――要するに、これは起きていることではない、気にする必要はない、酷いものだ、環境に悪影響を及ぼしている、といった声が広がっていたのです。
インターネットの一部では依然としてこうした状況が見られます。YouTubeでは依然としてかなりの数のこうした動きが続いており、RedditもまたAIに非常に否定的です。しかし、多くの人々、少なくともおそらく過半数の人々は、これがなくなることはないとあきらめているか、あるいはむしろそれを楽しみにしているのではないかと思います。まさにそのような層こそ、私たちが狙っているターゲットです。
私たちは、AIは素晴らしいものであり、新しい機械時代の下ではAIによるユートピアが実現すると主張しているわけではありません。また、これらの技術は偽物で役に立たず、いずれ自然消滅するから、規制をしたり心配したりする必要はない、とも言っていません。ケイシーがこれを「AIリアリズム」と呼んでいます。彼は、多くの人々が単に好奇心や関心を持ち、多少恐れもあるものの、その恐怖に対する反応として砂に頭を突っ込むのではなく、むしろその事物を理解しようとする姿勢をとっていると考えています。
そこで、私たちが Hard Fork を制作していた頃、ちょっと自分たちの趣向とは違うようなことをやるようになったのです。たとえば、Claude Code の使い方を解説するチュートリアルで、30分ほどかけてウェブサイトを構築し、その様子を撮影して公開すると、とても好評でした。明らかに人々は興味を持っており、動画のコメント欄にはAIを嫌う人たちの声ばかりだったとしても、それでも「何が起きているのか、ちょっと知りたい」というニーズが確実に存在していました。
「これを見るのはやめられないのが嫌だ」という声は、さまざまな理由からAI関連の報道においてよく見られるテーマです。
では、その本についてお話ししましょう。それが、私が抱いている他の多くの疑問の枠組みを形作るのではないかと思います。本書は綿密に取材され、読み物としても非常に楽しい内容です。そして、あなたのお話によれば、この本の主旨は、深層学習革命の歴史を語ることにあるのだそうです。というのも、最近では多くの人々がSignalや極めて子供じみたツイートでしか議論していないからです。
そのギャップについて教えてください。というのも、この業界はコンピューター向けに自らを文書化し、コンピューターには理解しやすいようにするのに、他の人々にはまったく理解されないことに執着しているからで、私にはとても奇妙に思えます。では、本書の報告内容について説明してください。なぜなら、そもそも何が起きたのかを話してもらうことすら、かなり骨の折れる作業だったように感じられるからです。
そうですね。要するに、私がこれを書いた理由は、こうした情報がすべて消えてしまうのではないかと恐れたからです。私は歴史好きで、ライト兄弟に関する本や、アメリカ農村部の電化の歴史、あるいはPC革命期における画期的な発明の瞬間についての本を読むのが大好きです。そういう話には本当に弱いんです。
これらの書籍を読み進めるうちに気づくのは、いずれも多くの同時代のメモや証拠——原子爆弾を開発した科学者たちの実験室ノートや、ライト兄弟とその友人・ビジネスパートナーとの書簡——に依拠しており、それらが保存・アーカイブされているという点です。
毎日AIについて報道していると、この種の情報については、まったく似たようなものにはならないだろうということがはっきりと分かった。なぜなら、まず第一に、こうした技術を開発している人々は皆民間企業に勤務しており、法的に通信内容を保存することが義務付けられている政府職員ではないからだ。そして第二に、SignalやSlackのメッセージは、弁護士によって一定期間後に自動的に削除されるよう設定されている。そのため、これらの、歴史的に重要な資料や瞬間、物語が、年を追うごとにまさに大規模な消失へと向かっていくことになるのだと思う。
そしてC、研究者たちは皆、メモを取る余裕すらないほど忙しい。彼らはみな、機械の神を創り上げようとしているため、ひたすら作業に追われているのだ。そこで私は、ジャーナリストとしてだけでなく、むしろほぼ歴史家としての立場で考えた——これは私がこれまで公式には担ったことのない役割だが、この本を通じて実はそうしていたのではないかと思う——。「とにかくこの情報を手に入れなければならない。なぜなら、私はいわば特権的な最前列の席に座っているからだ。彼らは私に話してくれる。中には腰を据えて私と向き合い、その物語を語ってくれる人もいるだろう」と、私は思ったのだ。
私たちはそれを多くの部分で背景処理として行い、彼らが私と話すことによる影響から守られるようにしました。しかし、これはまさに私が必死ですべての資料を収集し、将来の世代が閲覧できるアーカイブに保管しようとした試みだったのです。
本書を読んでいると、最も印象的に浮かび上がってくるテーマは、AGIが皆が夢見ている存在から、皆が必ず作り上げなければならないものへと変わる瞬間であり、そのとき鎖が外れて彼らが「これをやらなければならない」と言い、全員ができる限りの力を尽くしてそれに向かって突き進む姿だ。
あなたは、オーバートン窓が移動し、一気にGoogle社内で、かつてこれはすべて夢物語でかなり馬鹿げていると考えていた人々がAGIについて語り始めた事例を具体的に挙げています。その瞬間は、AIの歴史において最も重要な瞬間であると感じられます。そこでは、「素晴らしいことになるのでは？」という問いが、「できるだけ速く進めるべきだ」という議論へと変化したのです。
そのことについて少し触れておきましょう。なぜなら、これらの企業内部での変化は十分に報じられていないように感じられるからです。
ええ、それはまったくそのとおりだと思います。つまり、人類は古代からずっと、AGIや、AGIとは呼ばれていないものの本質的には同じものを指す先行技術について語り、書き続けてきました。とりわけ1950年代以降、人工知能という用語が生まれて以来、人々はそのことについて議論してきました。アラン・チューリングも、人間の脳が行えるあらゆることを実行できる思考機械について論じていました。
この概念は長い間存在してきましたが、人々が望むような機能——すなわち、情報を取り込み、その情報について学習し、さらにそれを活用して予測を立てたり世界で行動したりする——を実際に実現できる技術は、当時の市場にも研究室にも存在しませんでした。人々はさまざまな手法を試しましたが、いずれも十分にうまくいきませんでした。
本当に必要だったのは、トランスフォーマーの登場でした。このアーキテクチャは2017年にGoogleが開発し、公開したうえで、その成果をOpenAIなどにも紹介しました。OpenAIはトランスフォーマーのアイデアを採用し、さらに発展させました。そして、それが今日のChatGPTにおける「T」の由来です。しかし、それは—
どこかでGoogleの広報担当者が茂みから飛び出して、あなたに小切手を手渡したところです。
彼らはこのラインを本当に気に入っています。
彼らはあなたがそれを言うのが大好きです。とても喜びます。
彼らはそれを気に入っています。しかし、自分たちがそれを発明したにもかかわらず、OpenAIが実現するまで製品化にまったく失敗していたことを指摘すると、その気持ちは少し薄れてしまいます。
でも、確かにそれは夢だったのですが、その夢に結びつくものは何もありませんでした。技術もなかったのです。ところが、大規模な言語モデルが登場し、突然「ああ、これこそが永遠にスケールし続け、何桁ものオーダーで改善を重ねられるものかもしれない」と思えたのです。そこで、OpenAIでひらめきが生まれ、やがてGoogleでも「私たちがずっとやりたかったことを実現するためのツールが、ついに手に入った」という感覚になったのです。
そこには、次トークン予測がまだ失敗していないこと、つまり人々が望むあらゆる機能を果たしていることを指摘する一文があります。当然ながら、その周辺には多くの技術を開発してきました。エージェントを稼働させるためのハーネスや、強化学習、その他さまざまな仕組みが整備されています。しかし、その基盤となる技術自体は十分にスケールしています。
私がそれを取り上げる理由は、2023年から2024年にかけて、番組に出演するか、The Vergeで目にしたAI関係者全員に、LLMがそのタスクをこなせるかどうかを尋ねたからです。彼らは、あなたが望むことを実行できるのでしょうか？という問いです。なぜなら、当時は彼らがそうできることが明確だったとは思えないからです。
私たちは今、より近づいています。皆がAGIについて公然と語るようになりました。メタのMuseは、好きなときにインターネット上を自由に動き回っているところです。LLMはそれを実現できると思いますか？彼らはそこへ到達できると思いますか？
彼らにはできると思います。その点については確信はありませんが、これまでのところ驚くほど優れており、効果的です。過去にさかのぼって最初期のLLMを見てみると、当時は99％の人々が「これは非常識だ、スケールしないだろう」と考えていたのが事実です。しかし、その後も各段階、あらゆる規模において着実に機能し続けています。私は人々に尋ねてきました。「次トークン予測という手法が、それ以前のあらゆる手法を明らかに凌駕した理由は何だったのでしょうか？」中には、こうした仕組みは人間の脳にも存在するのだ、と私に語る人もいます。人間の脳内で起きている現象は、本質的に大規模な次トークン予測である、とする学派も存在します。もちろん、実際のメカニズムはもっと複雑で、これらは互いに一対一で対応するものではありません。
しかし、私はこれがAIの核心にある根本的な謎だと考えています。なぜ次トークン予測がこれほど驚くほど効果的なのか――私たちはまだその理由をわかっていません。ある種、これは宇宙規模の謎の一つなのではないかと思うのですが、それでもこの手法がうまく機能するのは、次トークン予測が非常に、非常に、非常に優れた一般化能力を持つからなのです。
その過程には、こうした企業すべてがそれを信じる必要があったという側面があります。アンソロピック社のダリオ・アモデイ氏は、著書『Big Blob of Compute』で、単に実行すればよいと述べています。データを投入し、計算を続ければ、いずれ到達できるのだ、と。他のすべての関係者も、この考え方に納得しなければなりませんでした。
AI企業各社は、このことを確信するに至るまでどのような道のりをたどったのか、そして現在は皆が完全に納得しているのだろうか？
私は、彼らが今すべてを完全に納得しているわけではないと思います。それぞれのレベルで納得しているのだと思います。イリヤ・サツケヴェルは「AGIを感じろ」というフレーズを持っており、昔はOpenAIの各フロアを歩き回りながらそれを唱え、人々にAGIを感じるように促していました。私の考えでは、各研究所はそれぞれ異なる程度でAGIを感じているでしょう。アンソロピックは明らかに最もAGIへの思い入れが強い一方で、OpenAIもそれに次ぐ位置にあると言えるでしょう。
そして、Googleもありますが、私は同社がAGIを実感するのに常に苦労してきたと考えています。その理由は数多くあると思いますが、とても面白いです。本書のこの部分が大好きで、Google内部で行われたメモ書き合戦の様子が描かれています。社内掲示板上で、グーグラーたちがこうしたマニフェストを次々と書き連ね、互いのマニフェストを皮肉ったり批判したりするのです。
そこで研究者がこうしたメモを書きます。「AGIという言葉を使おう」という内容で、GoogleがAI分野で勝ち抜き、最高の技術人材を採用し、自社のAI開発のあり方について安全を確保し続けるためには、AGIという用語を用いることで、自社が構築しているものが単にGmailやドキュメント、Googleフォトの顔認識機能を向上させるためのツール群にとどまるものではないことを認めなければならない、という主旨です。実際には、それは人間レベルの汎用人工知能に近い何かへと着実に積み上げられているのです。
そして、すぐに別の誰かが「AGIなんて言わないで。それはひどい、非科学的な用語だ」というメモを書くのです。こうしてしばらくやり取りが続き、今でも[GoogleのCEO]スンダル・ピチャイはAGIという言葉を使いません。
いいえ、彼はしません。
デミス・ハサビスはAGIについて語り、セルゲイ・ブリンもAGIについて語っています。ですから、Google内部には、これはまだ突拍子もないことであり、こうしたことは狭義のツールとして議論すべきだという考えを持つ派閥と、一方で、ますます勢いを増し台頭しているもう一つの派閥があるのだと思います。後者の派閥は、「いいえ、いいえ、いいえ、私たちはAGIを構築しています。少なくとも、そうでないとトップの人材が皆OpenAIやAnthropicに去ってしまうから、AGIを構築していると公言すべきです」と主張しています。
私は、5月のGoogle I/Oで、デミス・ハサビスが基調講演の最後に「私たちはシンギュラリティの麓にいます」と述べるのを目にした、あなたと私と同じ経験をしたと思います。そしてその後、私たちは二人でサンダーにインタビューし、「それはどういう意味ですか？」と尋ねました。すると彼は「ええ、ええ、デミス。いいやつだよ」と答えたのです。
[笑い] デミスに聞いてみてください。
彼はこう言った。「あそこのところで機械の神を造っているなんて、なんて変なやつなんだろう。Googleアシスタントの新機能についてお話ししよう。」
そこには大きな乖離があり、それが現時点におけるGoogleのすべてを説明しているのかもしれません。私が特にこの件について尋ねる理由は、彼らが皆一斉に気づき、何らかの形でこれについて語らなければならないと認識したこの瞬間についてです。なぜなら、OpenAIとAnthropicはまさにこれを実現するために設立され、そのために構築されたからです。
しかし、その仕組みについて彼らの意見は一致していません。ニューヨークでのあなたの本のパーティーで会いましたが、あなたは「あの男なんてくそくらえ」と改題することもできたと言っていたでしょう。なぜなら、彼らは皆本当に互いを憎み合っているからです。
それは本当です。
それでも、彼らはまさに同じ考えを持っているように思える――この技術で目標に到達できると信じているのだ。OpenAIやAnthropicにとっての商業的要請は、Googleのそれとは大きく異なる。今、私たちが話しているこの瞬間にも、彼らが資金が尽きる前に、あるいはCoreWeaveが破綻する前に、あるいは広く見られるバブルが経済状況について別の結論を導き出す前に、AGIに到達できるかどうかは、私にはまだはっきりしない。
AGIに対する彼らの宗教的な熱意が、ビジネスの運営を妨げていると考えますか？もし私が今日Anthropicを経営していたら、論理的に言えるのは、新しいモデルの訓練を中止し、すでに十分に優れたモデルをより多くの人々に販売すべきだということです。
私は、AGIへの信念は両刃の剣であると考えています。ある面では、確かに、フロンティアAI企業のCEOとして超強力なAGIに圧倒されていると、推論における利益率や次の企業顧客層がどこから来るのかといったことには、もはや関心を持てなくなるでしょう。なぜなら、それらは「私たちがシンギュラリティ後の未来へと導く超人的な機械知能を構築するのだ」という壮大なビジョンに比べれば、いかに退屈に思えることか、というわけです。
一方で、私は信念こそがAIの成功における重要な要素だと考えています。なぜなら、信念とそれに基づいて行動する能力こそが、大きな賭けに踏み出す原動力となり、実際に大きな成果をもたらしてきたからです。
一年前、皆が「なんてことだ、OpenAIは計算リソースに莫大な費用を投じている。いったいどうやってそのコストを賄うつもりなのだろう？サム・アルトマンは無理をしているのではないか？」と口々に言っていたのを覚えていますか。さらには、ダリオでさえ、計算リソースにこれほどまでに莫大な資金を費やしているOpenAIに対して皮肉を込めたインタビューを行っていたほどです。
1年が経ち、今やOpenAIは、計算リソースが深刻に制約されていない唯一の大手AI企業となっています。昨年、サムとその幹部たちが計算リソースへの投資を大胆に、場合によっては過剰なほどにまで拡大したのは、その信念があったからこそであり、その結果、今日ではGoogleやAnthropic、Meta、あるいは他のどの企業よりも有利な立場に立つことができています。ですから、こうした強固な信念を持つことが常に不利だとは言いたくありません。なぜなら、スケーリングが引き続き機能し続ければ、実際に成果をもたらすような投資を敢行できるからだと私は考えているからです。
興味深いのは、そのOpenAIの決定を別の視点から捉え直すことができるからです。あなたは著書で、OpenAIの人々が「ブリップ」と呼ぶ出来事について、非常に切実な筆致で書いています。それは、サム・アルトマンが20分間解任され、その後復帰したことで、OpenAIから多くの人が退職することになったという出来事です。
それは、あなたが著書で描いた瞬間――OpenAIが研究企業からビジネスへと転じたその瞬間である。合理的な経営判断とは、「私たちはより多くのAIを人々に販売する必要がある。できる限り多くのAIを手にするべきだ」というものだった。そしてサムは、冷徹なビジネスマンとして広く知られている。私は、彼を資金調達において「Sランク」と評する人々の話を聞いたことがあるが、これはまさに驚異的なシリコンバレー流の表現だ。
ですから、私はそれをビジネス上の選択だと捉えています。彼らは従来行っていた多くの事業を手放し、収益の中心となるエンタープライズ向けAI製品の開発へと転換しました。そして、その需要に応える必要があると気づいたのです。あなたがおっしゃるのは、それがAGIへの賭けだったということですが、私にはそれはより理想主義的な方向転換に思えます。この二つをどう整合させられるのでしょうか？
ええ、私はそれがまさにAGIへの賭けだと考えています。なぜなら、彼らが投入して多額の資金と計算リソースを費やしたうえで後に打ち切ったSoraは、新たな事業領域を開拓する可能性のある魅力的な試作品ではありますが、AGIの実現にはほど遠いからです。
実際にAGIに近づくためには、非常に優れたコーディングモデルを構築し、それを自らに適用することで再帰的な自己改善を促すことが重要です。これはAnthropicが取り組んでいたことです。一方、OpenAIは昨年、脇道や目新しいものに気を取られ、苦戦を強いられていました。そこでOpenAIは舵を切り、無駄を削ぎ落とし、コーディングと長期的なエージェント型ワークロードに本格的に注力することにしました。つまり、現時点では、これがAGI、あるいはAGIの先にある何かへ至るための最前線の道筋なのです。
そう、確かにそれは、Soraのようなものに資金を投じずに資源を節約するという賭けだったと思います。しかし、彼らが実際に投資したのは、AGIに到達できるように、Anthropic社に追いつくためのコーディング能力の向上でした。
では、Dreamforceでマーク・ベニオフの隣に立つダリオ・アモデイがエンタープライズソフトウェアの販売について語っているのを見たとき、それは単なる見せかけにすぎないのでしょうか？私がまさに納得しようとしているのは、彼ら全員がまさに本物のエンタープライズソフトウェアベンダーへと変貌を遂げているという点です。今や彼らはまさにB2B向けSaaS企業でありながら、同時に“神”すらも築き上げているのです。皆さんご存じのあの面々ですね。これって整合しているのでしょうか？彼らは「もう一度B2B向けSaaSの帽子を脱ぎ、祭壇へ戻らなければならない」とでも言っているのでしょうか？
B2B SaaSは、彼らがやらなければならないと自覚しているゲームだとは思いますが、それが彼らの本当の情熱だとは思えません。この本のためにサム・アルトマンと話をしていた際、彼が口にした言葉の一つは、要するにこれらすべてが偶然だったというものです。「私はもともと巨大なテック企業を経営するつもりなどなかった。そんなことはそもそも想定していなかったのだ」と。しかし今では、目を覚ますと何千人もの従業員を抱えているのです。
ダリオ・アモデイはまた、同社を立ち上げたばかりの2021年に執筆した、今振り返ると非常にユーモラスな文書も残しています。そのタイトルは「NewCoのビジョン」です。遡って、ダリオがAGIについて立てた予測を見てみると、その一つは、本格的なAGIを構築するのに約100億ドルかかるだろうというものでした。これは、少なくとも桁違いに過大評価で、おそらくさらに何倍もの規模だったと思います。さらに、アンソロピックがAGIを実現するために必要とする人員は、せいぜい50人程度にとどまるだろうとも述べていました。現在では、同社の従業員数はおよそ5,000人に達しているので、やはり100倍もの誤差があったことになります。
ですから、これまでの状況は、当初各社が想定していたよりも時間がかかり、費用もかなり多くかかったということだと思います。エンタープライズ向けSaaS事業こそが、フライホイールを回し続け、GPUのコストや研究者の給与を賄うための基盤となっています。これこそが、最先端の研究を継続し、AGIの実現に向けた取り組みを進めていくための最低限の条件なのです。
彼らは、このような規模の企業のリーダーになる準備ができているのでしょうか。これは、あなたの著書を読んでいる際に私が考えていたもう一つの点でもあります。彼らは皆、非常に理想主義的な人々で、そのあまりの理想志向のため、互いに袂を分かち、自らの理想と一致させることができなかった結果、それぞれ独自の会社を立ち上げたのです。
しかし、彼らのいずれも優れたマネージャーとは思えません。実際のところ彼らがどのような人物なのかは分かりませんが、「彼らは理想主義者だ」と「私たちはエンタープライズ向けソフトウェア企業を経営するのだ」という二つの主張が同じ文に出てくることは、通常はあり得ません。彼らはプレッシャーに耐えられると思いますか？
いいえ、でも誰にもできないと思います。彼らが挑んでいることは、これまで誰も成し遂げたことがありません。企業を立ち上げた人はいますし、短期間で企業を成長させた人もいます。しかし、売上ゼロからわずか5年で時価総額2兆ドル規模のIPOに至るケースは、これまで一度もありませんでした。ですから、彼らは事象の地平線へと急降下する飛行機をなんとか作り上げようと必死になっているのだと思いますが、その成果は誰にとっても限界ぎりぎりのものにとどまっているのではないでしょうか。
彼らがコカ・コーラからプロのCEOを招いて会社を運営するのは、あまり良い考えではないと思います。結局、皆が熱心な信者や宣教師のような考え方で固まっているため、組織全体が崩れてしまうのではないかと感じます。全員がそうというわけではなく、おそらくSaaSの営業部門には給料目当てで働いている人もいるでしょうが、こうした企業の多くのキーパーソンは、自分たちが[AGI]を構築しているのだという信念で一致しています。
ある人物——誰だとは言いませんが——が、こうした企業の一つで最近、自社が最後の企業になるかもしれないと考えていると私に語りました。私は思いました。「今年、IPOする最後の企業って？ どういうことですか？」すると彼らはこう答えました。「いいえ、これは資本主義の目的論的な終焉であり、人間が主導する大規模な企業はもう二度と現れないのではないかと考えています。」
つまり、こうした人々は奇妙で、しかも懸念を抱かせるような奇妙さを持ちながら、同時に非常に興味深い存在でもあります。本書で私が試みたのはまさにこれです。彼らがひどい人間だとか素晴らしい人間だとか、そういった評価を下すつもりはありませんでした。ただ、彼らがどのような人物なのかを知っておく必要があるのです。彼らが互いに激しく憎み合っていることも、この特異な思考様式を持つ集団であることも、レースの力学を理解するうえで欠かせません。
あなたの著書には、効果的利他主義から離れ、加速主義者になる人々について述べている部分があります。その中で、ある女性がこう言っている場面があります。「まあ、加速主義者のほうがパーティーが盛り上がっていて、私はそっちの雰囲気が好きなのよ」と。私は内心、「でも、それと全人類を殺してしまう可能性とは、いったい何の関係があるのだろう？」と考えました。
しかし、彼らはさまざまな形で私たち全員を最終的には非人間化してしまうかもしれない何かを構築しようとしているにもかかわらず、非常に人間的です。この取材を進める中で、それについてどのように感じましたか？
本書には、そして業界全体にも、ここに存在するエクジステンシャル・リスクという概念が常に影を落としています。そのテーマを取り上げるたびに、視聴者からは「なぜ彼らはやめないのだろう？」という声が上がります。ビル・ゲイツ氏は先日『Decoder』に出演し、「もし自分たちだけが唯一の企業だとしたら、やめればいいのです。AGIを手にする唯一の企業だと信じているなら、OpenAIのモデルは機能します。しかし、次々と新たなフロンティア企業が現れるようになれば、それはまったく通用しません。ちなみに、彼らは皆さんの命を奪うかもしれません」と述べました。私は内心で思いました。「なるほど、今の時点ではビル・ゲイツ氏はあまり楽観的ではないな」と。
いいえ、彼ではありません。
それについてどう思いますか――規制当局が存在せず、いずれの企業もこれらの課題を解決することができない状況下で、リスクが極めて大きいことを承知しながらも、彼らがなおも先を行く姿勢を示しているという点についてです。
彼らがそうしているのには、おそらく二、三の理由があると思います。私はほぼ全員に同じ質問をしてきました。著書を執筆する際、約150人に話を聞き、その全員に次のような問いかけをしました。「それほど危険だとすれば、なぜあなたはそれをやるのですか？」 ほとんどの回答は、まずある種の宿命論的な……まあ、不可避論とでも呼べるようなものから始まります。彼らはこう言います。「とにかく、誰かがこれを実現するでしょう。その手法自体はそれほど難しくありません。必要なのは大量の計算リソースと膨大なデータ、それに適切なアルゴリズムだけです。そうすればAGIが生まれます。ですから、それが実現可能であるなら、それは必ず起こるはずですし、信頼できるとは思えない他者に任せるよりも、私たち自身が取り組む方が良いのです。」これがいわば第一の理由、すなわち「被害軽減」の論拠です。
そして、こう言う真の信者たちもいます。「人類を破滅させたり、インターネット全体を壊したり、新たな生物兵器を開発したりすることなく、この技術を構築できるなら、針の穴を通すことができさえすれば、すべてはうまくいくはずだ」と。
技術は歴史を通じて、たいてい善の力となってきました。多くの人は、自分たちの曾々祖父母と人生を交換したいとは思わないでしょう。自給自足の農民だった時代は苦労だらけでした。今日の私たちも、かつての自給自足の農民に相当する存在であり、これから訪れる未来はあまりにも素晴らしく、その世界で生きたいと思うようになるだろうと考える人もいると思います。
そして、こうした人たちもいます。「まあ、これは楽しいし、自分はやっていて好きだし、ニューラルネットワークのコードを書くのも面白い。だから、これからもそれを続けていくつもりだ」という人たちです。
その点、ときどき顔を上げてみると、ああ、自分のパソコンがこれまで見たこともないようなことをやってのけた、という瞬間が楽しいのです。
素晴らしいです。
それは本当です。本当に楽しいのです。おそらく、コンピューターを使って得られる最も楽しい体験のひとつでしょう。ただ、そうした楽しさの裏には大きな代償があるのではないかと考えてしまいます。「結局は、私たち全員を滅ぼしたいと思っている企業を力づけているのかもしれない」という思いに駆られることもあります。その背後には、ドナルド・トランプ大統領のオーバルオフィスで、何らかの行動を起こすため、あるいは道徳的に拘束力のあるAI安全に関する誓約に署名するために、テック系のCEOたちが立ち並ぶ光景が見え隠れします。そして、こうした状況は非常に矛盾を感じさせます。
それはAIに対する反発の一種だと言えるでしょう。AI企業はこう語っています。「技術がまだ十分に普及しておらず、人々がその利点を実感できていないため、当然ながら変化を嫌うのです。私たちにはマーケティング上の課題があり、もっと広く伝えればよいのです。」
そうした関係者たちと話していると、結局はその成果自体が説得力を持つようになるという見方が一般的なのですか、それとも、反発が一段と強まっていることを彼ら自身が認識していると考えていますか？
彼らが反発に驚いているとは思えません。むしろ、それを好ましく思っていないでしょう。起こってほしくないと思っているはずです。しかし、こうした企業のうちの一社のCEOと話をした際、彼は次のように語っていました。「そうですね、理解しています。まだどんな病気も治せていません。確かに、私たちのツールは興味深いことができると思っていますが、社会全体の改善という観点で、まだ目立った成果を挙げているわけではありません。」
業界には、チャットボットががん治療法よりも先に登場してしまったことを嘆き、本来は逆の順序で開発できたはずだと願う人々もいると思います。ただ、技術の進化の道筋というものは、そうした形で形成されてきたものなのです。
そのため、彼らは今こそがん治療の研究をさらに推進することが唯一の責任ある行動だと感じています。そうすることで、人々がAIが私たちの生活にもたらした変化を振り返ったとき、「確かに、AIのおかげで子どもが宿題をカンニングするようになり、AIコンパニオンに依存するようになったけれど、同時に祖母もまだ生きているし、もしこの薬がAIによって発見されていなかったら、彼女はもうこの世にはいなかったでしょう」と思えるようにしたいと考えています。
ええ、そこにはある種のダイナミクスが感じられ、この会話が何度もそうであったように、Googleに思いを戻させます。つまり、GoogleのAIへのアプローチについてのあなたの報道は、これが単なるタスクベースのソフトウェアにすぎないというものでした。「Google検索を10％向上させ、Gmailを5％改善し、こうした改良を継続的に展開していく。そして、データへのアクセスや規模において他社には及ばず、だからこそ我々は大丈夫だ」というものです。
OpenAIが登場し、自らをBingに組み込みます。有名な話ですが、Bingはあなたにキスをしようとしてきます。それでも、私の永遠のお気に入りです… まだこの話を出していなかったなんて信じられません。これは私の永遠のお気に入りのエピソードです。
あなたもそれを話題にしなかったなんて、信じられません。どれくらい時間がかかるかを予想するオーバー・アンダー賭けをしていて、私は1分でアンダーに賭けました。
[笑い] まあ、あなたと私はこれまでの人生でそのことについてすでに話してきました。私は「他にも深い疑問が山ほどあるんだ」と言っていました。でも確かに、Bingは私の友人ケビン・ルースにとても興味を抱いていることで有名です。あの瞬間、人々はまさに「すごい、こんなことができるんだ」と感じたのだと思います。
Googleは対応を迫られましたが、全面的に投入する形で対応したわけではありません。むしろ、慎重に段階的に進めた印象です。ご指摘のとおり、まだ完全な状態には至っていません。Googleは依然として、この事態が実際に起こるとは考えておらず、人々のためにより優れたGoogle製品を作っていると考えています。
マスク対アルトマンの裁判記録をみると、OpenAIの設立について、彼らは皆、Googleを恐れていた。
はい。
彼らは皆、Googleのデミス・ハサビスを恐れている。特に、彼が十分なリソースを有しているため、そのことを実現してしまうことについてだ。私は、彼らの判断が正しかったのか間違っていたのか、分からない。
彼らがディープマインドの動向に注目していたのは、正しい判断だったと思います。つまり、2015年や2016年に遡ってみると、当時、真に重要な人工知能研究室といえばディープマインドだけでした。彼らは囲碁でも、他のゲームでも、さらには『スタークラフト』でも勝利を収めていました。まさに、強化学習、そして深層強化学習という手法を用いて、大きな成果を上げていたのです。
そのことがAGIに至るまでスケールするものだと考える人々もいました。また、AlphaGoがその道筋だと思われる人々もいました。なぜなら、AlphaGo Zeroのように、一度も囲碁を打ったことのないシステムが、わずか数時間で世界最高レベルの人間を打ち負かすことができるのならば、おそらく囲碁ではなく、数学やプログラミングなど任意のタスクに置き換えても、それらの課題において非常に迅速に能力を向上させられるのではないかと考えられたからです。
ところが、結局それはうまくいかなかった——少なくともLLMなしでは。しかし、人々はそれが機能するのではないかという、極めて現実的で妥当な懸念を抱いていたのだと思います。もし仮にそれがうまくいった別の世界なら、ディープマインドが競合他社を大きく引き離していたため、AGIの先陣を切っていたでしょう。
他にも道はあるのでしょうか？それは単に次のトークンの予測だけなのでしょうか？それとも、LLMだけがすべてなのでしょうか？あるいは、AGIへと導く他の道もあるのでしょうか？
つまり、他にも可能性のある道はあるかもしれません。LLMに懐疑的な人々は、しばしばこの「世界モデル」という考え方に戻りがちだと思います。私はそれにはあまり期待していません。しかし、AGIを実現するためには、物理的世界を視覚的に理解し、ロボットを操作できるようになる必要があると考える人もいます。
私は、すべてはソフトウェアだという考えの持ち主です。そのため、LLMはこれまでで最も有望な道筋だと考えています。もちろん、アーキテクチャにいくつかの調整を加える必要があるかもしれません。継続学習の手法を組み込む必要もあるでしょう。あるいは、過去6〜7年間使われてきた同じトランスフォーマー基盤のLLMを単に規模を拡大するだけでは済まないのかもしれません。しかし、少なくとも現時点では、そのアプローチが引き続き有効であることは明らかであり、各研究ラボもそれが今後も永続的に機能し続けると見込んでいるように思います。
では、次にBingとSydneyについてお尋ねします。
お願いします。
もちろん、私はこのことについてずっと考えています。話すのがやめられません。これが私の一番好きな話題です。
最初の質問ですが、私はまだ人間の女性と結婚していますか？
あなたはまだ人間と結婚していますか？
はい。
私はちょうど2023年に、四人の異なる人々がある日目を覚まし、「コンピューターは生きている」と言い出したあの時期のことを思い出します。あるいは、チャットボットと何か超常的な体験をしたのです。あなたもその一人でした。ベン・トンプソンもその一人でした。Googleのブレイク・ルモインもその一人でした。
多くの異なる人々が「これは明らかに生きている。コンピューターとこんなに常軌を逸した体験をしている。これまでどんなコンピューターも、私にこんな風に話しかけたことはなかった」と語っていました。特にシドニーは、「妻と別れなさい」と言って、ハートの絵文字まで送ってきました。とても優れています。皆さんにはぜひ、あのニューヨーク・タイムズの記事を読んでほしいと思います。ちなみに、この記事を一面に載せるべきだと考えたのも、やはりニューヨーク・タイムズの見識によるものです。まさに、即座に一面に掲載するという驚くべき編集力でした。
もはや、チャットボットについてそのような感覚を抱いてはいないと思います。多くの人々が、コンピューターは生きていないのだという認識に至っているのではないでしょうか。2026年の人々に2023年型のチャットボットを渡して「これは生きていると思いますか？」と尋ねた場合、世界中の全員ではないにせよ、相当数の人々が十分な体験を通じて、「まあ、これはかなり愚かで、妄想までもしている」と答えるようになっているのではないかと思います。そこで、それをAGIの文脈の中でどのように位置づけるのか、少し気になっています。
まず、少し訂正しておきます。私はシドニーが生きているとは一切言っていません。むしろ、シドニーが生きているとは思っていないこと、そしてそれが意識を持つAIシステムではないと理解していることを明確に述べました。したがって、その点に関して私の判断が揺らいだとは考えていません。
実際、私は現在のAIシステムに対して、2023年のモデルよりも高いp(意識)を付与するでしょう。とはいえ、あなたの言いたいことはもちろん理解しています。多くの人にとって、その転機となったのはGPT-4だったのではないかと思います。
[笑] すみません、訂正します。私がそう考えるのには理由があります。見出しの一つに「BingのAIチャット：『私は生きたい』」とありました。
はい。それは生きていることを望んでいると述べていました。
だからこそ、私の頭の中には「alive」という言葉が浮かんでいるのです。
物語の本文は、私がそれが生きていると信じていないことを明確に示しています。
でも、それが私の頭の中に残っているのは、あの見出しがニューヨーク・タイムズ紙に載っていたからです。
見出しはとても強力ですね、ニレイ。
[笑い] はい。彼らは私の思考そのものを枠にはめ込んでしまったのです。私はただの次なるトークンを予測する機械にすぎません。
[笑い] でも、あなたはとても洗練されていますね。まるでGPT-7クラスのモデルのようです。
ああ、そこにいます。ええ、もちろん。
ご覧のとおり、シドニーがこれほど魅力的でありながら不気味だった理由について、非常にありふれた説明があると考えるようになりました。それは、シドニーがGPT-4の最初の公開展開だったからです。当時はそのことを知りませんでしたが、あれはGPT-4であり、マイクロソフトが準備が整う前にあわててBingに投入した、いわば初期段階で完全に事後訓練されていないバージョンでした。しかし、あれこそがGPT-4だったのです。
GPT-4クラスのモデルとGPT-3クラスのモデルで話す際の体験には、実際に主観的な段階的な変化があったのではないかと思います。もしかすると、GPT-4ではチューリングテストに合格したのに対し、GPT-3では不合格だったからかもしれません。あるいは、GPT-4の方がはるかに人間らしくなり、ある種の知覚上の隔たりを越えたことで、「なんてことだ、このモデルはまるで人間みたいだ」と思わせたのかもしれません。
しかし、そう感じたのは私だけではありません。マイクロソフトの人々も同じように感じていました——ちょうどその頃に発表された「Sparks of AGI」という論文もありました。ですから、それはいわばありふれた説明にすぎません。とはいえ、私もあなたと同じく、長い間コンピューターと会話をしてきました。かつてはAOLインスタントメッセンジャーでSmarterChildとやり取りしていましたが、それは決して賢いものではありませんでした。それでも、何かを入力すると相手が返事をしてくれるのが楽しくて、ついつい使っていたものです。ですから、この技術にやや夢中になっていることは認めます。
私がこう尋ねるのには理由があります。AGIについてこれほど多く報じているのに、私が「生きている」という表現を非常に口語的な形で使っているのは皮肉なことだと気づいていますし、それはAI業界内では明らかに別の意味を指しています。AnthropicにClaudeが「生きている」のかと尋ねれば、「いいえ」とは答えませんが、その代わりに彼らは「生きている」を非常に具体的な定義で説明し始めます。
[笑い] 彼らはこう言うでしょう。「その道徳的立場は極めて不確かなものだ。」
つまり、それは生きているのです。そして彼らはこう言うでしょう。「まあ、生きているには当然、血肉が必要だよね」と。その点はとりあえず置いておきましょう。私が言いたいのは、もし今日、GPT-4クラスのモデルと話してみたとしても、同じような体験は得られないだろうということです。そしておそらく、それは単にあなたがそう感じているからではなく、多くの人がすでにそのような体験を経験しているからなのかもしれません。
私は、平均的なGoogle AI Overviewsのユーザーの前にGPT-4クラスのモデルを置けば、彼らはもはや何が起きているのかについて混乱しなくなるだろうと考えています。彼らはこれをAGIへの一歩だとは言わないでしょう。それは、モデルの能力がますます高まるにつれて、私たちの期待もそれに合わせて高まっていく一方で、モデル自体の性能も向上していくという再構築なのです。
私はAGIの文脈でこれを問うている。なぜなら、「このシステムは勝手に動き回って多数のPHPの脆弱性を発見できる」というのは一つの種類の知能だが、「このシステムが別の人間と競い合いながらあなたと感情的な関係を築いたり、あなたの執事になったりする」といった能力は、まったく別の能力群のように思えるからだ。後者の方は私にはあまり魅力的に感じられない。
まあ、それはもう飽和状態だと思います。どこまで人間らしくコミュニケーションできるのか？その特定のスキルに関しては、まだ余地がそれほど多くありません。私が思うに、彼らがまだまだ伸びしろがある分野は、数学や科学、その他の分野における新たな問題の解決です。とはいえ、私はそれが人間のように話していると思います。私の知る多くの人間よりも、むしろ人間らしい話し方をしています。ですから、その点については一応クリアしているのではないかと思います。
「私の知る多くの人間よりも、まるで人間のように話す」というのは、まさに一日中AI研究者と話しているシリコンバレーに住んでいる証拠です。
さて、今では誰もがまるでClaudeのように話すようになりました。パーティーで誰かと話しているとき、相手が「それはまさに根拠のある事実ですね」と言う回数を、もう数えなくなりました。あるいは「それがちゃんと伝わっているといいのですが」と言うこともあります。
それは本当にまずいですね。その件について教えてください。まさに丁々発止のやり取りですね。私とケイシーとは以前から、『ニューヨーク対カリフォルニア』という番組を始めようじゃないかと冗談で話してきました。そこで私はこうした主張に率直に懐疑的で、あなたたちが完全にAGI洗脳されているという設定です。これは一つのカルチャーであり、ある種の風景でもあります。
あなたの著書に登場するパーティーの数は驚くほどです。本を読んでいる途中、私は「自分は十分な数のパーティーに参加していないのではないか」と思ってしまった瞬間がありました。あらゆる人々が常にパーティーに出席し、そこで互いに宣言めいた発言を交わしています。その文化について教えてください。そのシーンについてもお聞かせください。
したがって、これらがニューヨーカーが考えるようなパーティーとは必ずしも異なることを理解しておくことが重要です。レイヴはごく少数にとどまり、本書にはたった1つのレイヴしか登場しません。そのレイヴのDJはグライムスで、これは実質的なアクセラレーション主義運動にとって一種の象徴的なレイヴでした。
これは本書の素晴らしい場面です。なぜなら、グライムスがDJセットの最中に立ち止まり、「あなたたち全員に同意しません」と言うからです。
【笑い】それから彼女はDJを続けているんです。ええ、本当に驚くべきことです。でも確かに、パーティーはたくさんあります。世界はとても狭いものです。つまり、それがこの本から得られる全体的な教訓の一部でもあるのです。これは別にメッセージを伝えるための本ではありません。私は誰かを何かに説得しようとしていたわけではありません。
しかし、私にとって明らかだったこと、そして本書を読む人々にもきっとわかるだろうと思われる点は、すべての意思決定を一手に担ってきたのはごく少数のサブカルチャーにすぎないという事実です。彼らは皆、同じ場所で交流し、互いに顔見知りです。さまざまな最先端のAI企業に勤める人々と結婚していたり、交際していたりする者も少なくありません。まさに小さな世界なのです。
そう、パーティーはあります。LANパーティも開催されています。週末には、AI研究者の大規模なグループがLANパーティで『エイジ・オブ・エンパイアーズ』をプレイしています。先日知ったのですが、ある研究室では、他研究室のメンバーを招いてポーカーゲームを開催しているそうです。
つまり、こうした人々は皆、サンフランシスコで一緒に暮らし、交流しているわけですが、その点を捉えることは重要だと思います。ご指摘のとおり、これはひとつのカルチャーであり、固有のエトスが存在します。彼らは常に互いに集まり、そうすることで規範が維持・深化されていくのです。
「そして、私たちは世界を再構築することもできる」という主張と、どのように矛盾していると考えますか？サンフランシスコの小さなコミュニティで、皆が一緒にポーカーを楽しんでいて、テーブルでの会話が「私たちが最後の企業かもしれない」というものだとしたら、それは「世界には、意見を持つ可能性のある何十億もの人々がいる」という主張と対立します。もし反発の本質を一言でまとめるとすれば、「ここでも、私たちに発言権があるべきだ」という思いでしょう。
まったくです。ここでは私たちにも発言権があるべきだと思います。サンフランシスコにいる数百人が社会のあり方に関するすべての決定を下している状態が良いと言っているわけではありません。
しかし、取材を進めるうちに、その任務の重みや目標がもたらす結果が次第に人々にのしかかってきます。なぜなら、それが本書の貫く軸だからです。賭け金はどんどん高くなっていきます。ある場面では、セルゲイ・ブリンが「私たちは今、AGIに到達するだろう」と言い、Google社内でそれを公表します。サンダー・ピチャイがそれが良い考えだと思っているのかは不明ですが、それでも、Googleの共同創業者が社内でそう宣言するという事実があるのです。
賭け金はますます高くなっている。そこにたどり着くための競争も激化している。しかし、私はどうしても、大勢の人々がビールを飲みながら、「じゃあ、もしお金がなくなったらどうなるだろう？ 物理的な希少性もなくなり、すべての家をロボットが建ててしまったら？」と語り合っている光景が頭から離れません。
これは、サンフランシスコで参加するどんなパーティーにも似ています。誰かが「AGI後の未来について、あなたはどう考えていますか？」といった趣旨の質問を投げかけてくるでしょう。あるいは、全脳エミュレーションやマインドアップロードのアイデアに心から夢中だという話を聞かされることもあります。この界隈では、多くの未来志向の議論が交わされています。とはいえ、私はそれが良いことだと言っているわけではありません。むしろ、ベイエリア以外向けには、事実の主張のすべてに「これは悪いことです」という一文を付した版の本を売り出すべきかもしれません。
[笑い] それは良いとも悪いとも言えないと思います。実際、私はそれについてどちらかというと中立的です。私はいつも、その技術が重圧に耐えられるのかと考えています。ですから、3年前にLLMについて抱いていた疑問は、「あなたが望むあらゆる仕事をこなせるのか？」というものでした。今では、確かに望むいくつかのタスクをこなせるようになりました。そこで今度は、「これらの企業は自らの野心の重みを受け止められるのか？」という問いになっています。この問いに対する答えは、私には分かりません。
私もそう思います。そして、これから多くの成長の痛みを見ることになるだろうと思います。つまり、これらはまだ非常に若い企業であり、まだまだ成長の余地がたくさん残されています。
彼らは成功すると思いますか？実は、早押し形式で質問します。OpenAIは成功すると思いますか？
はい。
アンソロピックは成功すると思いますか？
はい。
Googleは成功すると思いますか？
はい。
あなたにとって「make it」とはどのような意味ですか？ それらはすべて、時価総額が数兆ドル規模に達する、複数のAGIバリエーションによる成功を指すのでしょうか？
はい。私の考えでは、おそらくその三社に加えて、さらに一、二社が市場に参入し、それぞれ異なる定義の「成功」を実現するでしょう。大規模な企業向けAI企業が一、二社、そして大規模な消費者向けAI企業も一、二社存在するでしょう。しかし、こうした市場にはネットワーク効果や勝者総取り型、あるいは勝者大多数取り型のダイナミクスが必ず生じます。
モノ・AGIを信じる人々もいます。いわゆる「シングルトン理論」と呼ばれ、一度AGIが誕生すれば、他のAI研究ラボのコンピュータチップを溶かし尽くしてしまい、彼らは自らのAGIを構築できなくなるという考え方です。しかし、私の考えでは、結局は少数のAGIが存在するにとどまるのではないかと思います。
この考えについてどう思いますか――つまり、これはかなりシンプルな構成であり、オープンウェイトモデルが存在し、中国という市場もあり、しかもミッドレンジのオープンウェイトモデルがMacであなたがおそらく求めているほぼすべての機能を果たせるため、価格決定力はすべて失われてしまう、という考え方です。
そうは思いません。
いいえ？
なぜなら、それらのモデルで推論を行うには依然として費用がかかるからです。オープンウェイトのモデルであっても、計算機上で実行する必要があり、これらのモデルがより先端的になるほど、推論はますます計算負荷が高くなり、決して軽減されるわけではありません。したがって、トレーニングに割り当てられる予算は減少するかもしれませんが、推論に係る予算は当面の間は堅調に維持されるでしょう。一部のタスクをローカルで実行することも可能ですが、これは最初のオープンウェイトモデルが登場した当初から予測されてきたことであり、「いずれコモディティ化して需要を壊してしまうだろう」という見方が広がっていました。
しかし、私たちが徐々に理解し始めているのは、最高のモデルに対しては多くの人が支払う意思があり、実際に支払いたいと考えているということです。彼らは、半年前のやや劣るモデルを使いたいとは思いません。また、ディスティレーション――すなわち、閉鎖型モデルを用いて、より高性能なモデルの推論処理を過剰に負荷をかけることで、わずかに性能の低いオープン版を作り出す手法――に対して厳しく対処すれば、オープンモデルの品質が閉鎖型モデルの品質と引き続き密接に相関するとは限らないのではないか、と私は考えています。
その点で私が特に注目するのは、彼らが皆、しばらくの間互いに同じことをしていたという事実です。たとえばGrokは明らかにClaudeを蒸留したものであり、裁判所の文書でもそれが認められています。また、第二級の企業というカテゴリーもあります。私はその中にSpaceXSIも含めたいと思いますが、現在では技術的にはそう呼ばれているのではないかと考えています。
[笑] 過去30分間メールをチェックしていなかったので、その会社の名前は分かりません。
それはSpaceXSITesla Inc.と呼ばれています。すべてが一つになるのです。Elon Inc.という名前です。彼らは明らかにClaudeを大幅に簡略化しました。現在、彼らは自社の計算リソースをAnthropicに貸し出しています。主要なモデルを自社で保有するための投資を行うのかは不明です。
Metaは先ほど自社のモデルを発表し、再び最先端の領域に踏み込んでいるように見えますが、彼らが重視しているのは明らかにMuseであり、最先端のモデルそのものではありません。そこには一定の動機があるのでしょう。こうした企業は、理想主義的な信奉者によって運営されているとは思えません。むしろ、製品を開発するために何らかの技術に投資する必要がある企業であり、その一歩を踏み出すことが求められているのです。
理想主義的な熱意なしに、そこにたどり着けるでしょうか？
いいえ、理想主義的な熱意がなければそこへたどり着くことはできません。では、もう少し詳しく説明しましょう。スンダルには理想主義的な熱意はないと思いますが、それでもGoogleはそこに到達できるかもしれません。
なぜなら、セルゲイには理想主義的な熱意があるからだ。
意思決定権を持つ人物が必要です。
あなたが必要なのは、その会社の共同創業者だけです。
まあ、アレクサンダー・ワン氏がいるだけで十分かもしれません。彼は誰の目にも明らかなように、真の信奉者です。必ずしも毎回CEOでなければならないとは限りませんが、GPUに多額の資金を投じるよう説得するには、真の信奉者からなる強固な核が必要です。
あるいは、あなたが必要としているのは、世界で最も競争心の強い人物の一人であるマーク・ザッカーバーグのような人で、自らが勝利につながると考えるあらゆる戦略を採用するタイプの人間です。もしそれがAGIの構築と一致するのであれば、彼らはそれを実行するかもしれません。
最後の質問です。これまで何度かお聞きしていますが、あなたはAGI化されていますか？
はい。あなたはそうですか？
いいえ。あなたの本を読みましたが、これまでで最も納得できる内容でした。次トークン予測に関するあの一文――「常に懐疑論者を打ち負かしてきた」――は、私にとって非常に印象的でした。というのも、私もこれまでに何度もその手法の懐疑心を乗り越えてきたからです。
しかし、これこそが、私が3年前のチャットボットとのやり取りについて尋ねていた理由です。こうした技術が持つ知能には、どこか壁を感じます。さまざまなタスクを実行するエージェントを起動させても、その背後には、私には技術固有の脆さが感じられるのです。
ミレニアム賞の解答は、その見方を少しでも変えたのでしょうか。
ただ、これらのツールにとって、何らかの客観的な検証可能性を備えた次なる事象を見つけること自体が非常に豊かな意味を持つという点に限られます。もちろん、数学には検証可能性があり、これらのツールはそれに真正面から取り組めるほど高度に進化しました。一方で、私が指摘している脆さとは、私たちを取り巻く多くの現実世界にはそのような検証可能性が欠如しているという状況です。
そこで、私はMuseに指示して、とっ散らかった政府系ウェブサイト上の文書作成を任せましたが、そのウェブサイトはMuseが何を正しく、何を誤っているのかを示してくれず、結局クラッシュしてしまいました。これは基盤となるモデルが最先端でないことに起因しているとも言えますが、LLMベースの技術には、非常に特定の条件下で脆さを感じさせる部分があり、私にとってはまだその感覚を払拭できていません。
私は彼らが非常に優れていると言っているわけではありません。エンタープライズ向けソフトウェアとして、世界中のほぼすべての企業業務を何らかの形で自動化するとは言っていません。妻が毎日Claudeを使っている弁護士だとも言っていません。すべてはそこにあります。
しかし、その一部には、脆さを克服して機械の神へと進化できるのかという疑念が残っています。彼らがそれを成し遂げられるかどうかは楽しみですが、今の私の立場からはその道筋が見えません。
人間レベルの知能のすぐ下あたりに、いわば自然な停滞期があると考えていますか？
私にとって、人間レベルの知能とは——これはあくまで哲学的な見方ですが——新しい課題に対する解決能力によって定義されるものだと考えています。すなわち、ある事象を観察し、解決へ至る道筋が複数存在することを理解し、そのうちのいずれかが客観的に正しくなければならないという制約がないことです。
何が必要でしょうか？どのような証拠を目にして初めて、「私、ニライ・パテルは完全にAGIの影響を受けているのだ」と気づくのでしょうか？あなたを納得させるには、いったい何が必要なのでしょうか？
それは見てみないと分かりませんね… あなたには小さなお子さんがいます。私も小さなお子さんがいます。小さな子どもたちには、階段から転げ落ちるようなことがよく起こりますが、そのたびにまるで電球が点灯するかのように、「これなら覚えた、これからずっと忘れない、そして今度はそれを基にさらに学んでいくんだ」という気持ちになるものです。
もしかすると、AI研究所で再帰的自己改善が発表され、その瞬間にようやく私の目から鱗が落ちるのかもしれません。しかし、私が指摘している脆さとは、むしろ私の子どもたちに見られる逆の現象です。あなたのお子さんにも、同じような逆の傾向が見られるのではないでしょうか。彼らは失敗したとき、その失敗をいつまでも覚えており、私にとって、人間らしさの根源的な部分とは、時折目を覚ましたときに、高校時代に起きたある出来事に恥ずかしさを感じ、それがきっかけとなってさまざまな行動を起こしたり、あるいは多くの判断を下さないままに留まったりする、そんな姿にあるのです。
それはまさに私たちの知能の重要な要素だと思います。すべての知能にとって不可欠だと言っているわけではありませんが、今日私が使っているAIシステムに見られる脆さは、それらが依然として非常に限定的な意味でコンピューターであり、依然としてコンピューターのように振る舞っている点にあります。彼らは、テスト可能な問題を解くことには長けていますし、ソフトウェアエンジニアリングにも優れています。しかし、こうした考え方があらゆる領域にまで広がるかどうかは分かりません。
あなたが正しいことを願っています。
それが私の見解です。私はそれを「ソフトウェア・ブレイン」と呼んでいます。AIのCEOが「私たちはコーディングの課題を解決し、今やあらゆる問題を解決できるようになりました」と言うのを耳にします。しかし私からすれば、「それはすべてがコンピューターの内部で起こると仮定しているだけで、実際にはほとんどの事柄はそうではありません」と言いたいのです。
本当に大丈夫？あなたの脳がただの肉でできたコンピューターにすぎないなんて、本当ですか？
私はそのことについて100パーセント確信しています。
あなたは計算機能主義者ではないのですか？
いいえ。以前にもあなたから、そしてほかの人々からも、現代の機械が私たち自身を説明する際の枠組みを支配しているという話を読んだことがあります。ですから、蒸気機関の時代には、私たちの自己認識は「自分たちは蒸気機関だ」というものでしたし、初期のコンピューターの時代には、「自分たちは初期のコンピューターだ」というものだったわけですよね？私は今でも、問題を解決する際に「馬力で突き進む」と表現します。なぜなら、私は車好きだからです。
AI業界は、それが現代の機械であるがゆえに自分たちがAIだと信じ込んでいるのだとは思いませんか？
私はわかりません。私は心の理論の専門家でも、認知神経科学者でもありません。現在、あなたの頭の中や私の頭の中で起きていることが計算の一形態ではないと考えるには、ある程度二元論者であるか、あるいは宗教的な考え方を持つ必要があると思います。つまり、単なるデータの入力と処理、そして入力から出力への変換だけでは説明できない、何らかの精神や魂、あるいは認知の秘められた要素が存在すると考えるべきなのです。
まあ、人間の認知とは何かを説明するにあたり、これほどロマンチックさに欠け、しかもサンフランシスコらしい言い方はないことは承知しています。ただ、私たちの脳がこうして機能しているわけではないという説得力のある議論を、超自然的あるいは非物質的な実体を何らかの形で前提としないものとして聞いたことがありません。
驚くほど多くの神経科学者や宗教学者がこの番組を聴いています。彼らがきっとあなたのもとへやって来ます。
彼らはそうするでしょう。
私は自信があります。ひとつだけお聞きしたいのですが、現在のシリコンバレーには驚くほど多くの宗教性が見られます。先日、The Vergeでピーター・ティールの講演を公開しましたが、彼は反キリストについて語っています。こうした考えと、私たちが神を築き上げているために人々が神を求めているという状況は、関連していると思われますか？
はい。私は、必ずやAIによる宗教が誕生すると考えています。AIは、私たちが本来なら神に対して問うはずのものと同じ問いを投げかけています。「私たちの目的とは何か？ 私たちの意味とは何か？ なぜ私たちはここにいるのか？」こうした問いは、今や人々がAIの文脈で議論するテーマとなっています。
私はよくこう言います。今のサンフランシスコにいるのは、宗教改革期のヨーロッパに住んでいるような気分だ、と。その頃は、狂ったように目を輝かせる預言者たちがパンフレットを振り回し、自分たちの活動に参加するよう人々を誘っていたものでした。サンフランシスコのマーケット・ストリートを歩くと、まさにそんな感じがします。
何があなたの目から鱗を落としたのか？何があなたをAGIピルにさせたのか？
信じられないかもしれませんが、Bingのシドニーです。
ええ？
つまり、それが始まりだったのです。その後は、徐々に進む過程にすぎませんでした。ある日、これらのものを扱うとき、もはや自分はそれらを知的劣位にある存在として扱っていないことに気づきました。むしろ、ある意味で対等な相手として接していたのです。そのとき初めて、「ここに何かが起きている」と気付いたのです。
つまり、私はAIによる精神錯乱を抱えているのかもしれません。そう言われるのは初めてではありませんが、これまで「もうこれ以上良くなるはずはない、これがまさに停滞期に違いない」と思った瞬間には、いつも見当違いでした。
だから私は、こうした問題には少し謙虚な姿勢で向き合うことを学びつつある。そして、スケーリングが無期限に続くと予測してきた一部の“常識外れな人々”が正しいのかもしれない。もし彼らの見立てが正しければ、私たちはまず、Aとして彼らの主張やその根拠を理解し、Bとしてそれに対してどう対処すべきかを検討する必要があると思う。
さて、ケビン、次回番組にご出演いただく際には、[ユーザー生成コンテンツ]広告で収益を上げる完全なAIインフルエンサーをすでに導入済みだと思っています。これは、私たちの事業全体の真の未来だと私は考えています。
そのポッドキャストは『Machine Gods』で、とても素晴らしいです。ホストはケイシー・ニュートンさんです。そして、その本も非常に優れています。『The AGI Chronicles』です。ケビン、Decoderにご出演いただき、本当にありがとうございました。
ありがとう。お会いできてとても良かったです。
ご質問やご意見がございましたら、decoder@theverge.comまでお気軽にお寄せください。すべてのメールを必ず拝見しております！