
ヤン・デリ テンセント社のシニアエキスパート
LLMは確率モデルであり、因果関係は不明である
大規模言語モデル(LLM)は言語を理解しているわけではなく、あくまで次のトークンを予測するだけです。これは単なる退屈な「言葉の連鎖」を行う機械であり、一歩進むたびにその都度計算を行い、後戻りすることはありません。LLMは本質的に確率モデルであり、共起構造の統計に基づいて「何がしばしば何と一緒に現れるか」を学習し、出力として「通常そうである」という結果を返します。しかし、「なぜそうなるのか」を理解することはなく、変数間の因果関係も確立されていません。つまり、LLMは「相関は識別できるが、因果は分からない」のです。
LLMは主に確率的予測に依存しているにもかかわらず、なぜこれほど広範で深い能力を示せるのか。なぜまともな因果的説明を提供できるのか。また、「もし当初別の選択をしていればどうなっていたか」といった問いにも答えることができる。これは、Pearlの因果スケールにおける関連性層(Association)にとどまるものではなく、介入層(Intervention)や反事実層(Counterfactuals)にも及んでいるように見える。なぜなら、圧縮こそが知能だからである。大規模モデルの本質は、膨大な知識を限られた接続に圧縮することにある(ジェフリー・ヒントン、2025)。データの確率モデルと無損失圧縮とは、本質的に等価である。言語は一種の圧縮アルゴリズムであり、人々は大量の因果知識をテキストに書き込み、言語の構造そのものが世界に関する解釈を内包しているのである。
確率モデルである以上、信頼性の問題は避けられません。質問への的外れ、誤った事実の混入、根拠のない捏造、引用ミス、論理の一貫性の欠如、常識の欠如といった「幻覚」(Hallucination)現象は不可避です。これらの幻覚はLLMの技術的特性に起因するもので、製品出荷時の設定であり、可能な限り軽減することはできても、根本的に解消することはできません。世界で最も幻覚発生率が低いモデルであっても1.8%であり、下図のとおりです。
図 世界の主要な大規模言語モデル25種類のアンカー錯覚率(2026年5月)
LLMには盲点があり、洞察に欠け、持続的な学習ができない
LLMは非常に強力ですが、盲点も存在します。それは、暗黙知や機密情報といったものを学習できない点です。ポランニーのパラドックスは次のように指摘しています。「私たちが言葉で説明できるものよりも、知っていることの方が多い(We can know more than we can tell)」。多くのタスクは、直感だけで実行可能でありながら、その規則や手順を言語で明示することはできません。たとえば、自転車のバランスの取り方、共感の適度な加減、指先の優しさ、相手の意図を察するまなざし……こうした「明確に表現しづらく、効果的に伝達しづらい」知識は、「暗黙知(tacit knowledge)」と呼ばれます。これに対し、記録可能でデジタル化可能な知識、すなわち「顕在知」は、LLMが学習可能な領域です。もちろん、すべての顕在知が学習できるわけではありません。それは入手可能性に依存します。機密情報やオンラインに公開されていない情報はより価値が高く、一言で済むことが多く、それこそがLLMの盲点でもあります。
LLMはあらゆることを知っているが、創造的で破壊的な洞察(CDI)には欠けている。チューリング賞受賞者であり強化学習の父であるリチャード・サットンは2026年に次のように指摘している。「これらのシステムは実質的に人間の知識の力を活用し、それを再び私たちに還元しているだけであり、自ら新たな知識を発見する能力はない。」LLMが既知の科学的ブレークスルーを独立して「再発見」できるかどうかを評価するため、デミス・ハサビスは今年2月にアインシュタインテストを提案した。知識ベースを1911年以前に限定し、AIが1915年にアインシュタインによって提唱された一般相対性理論を独立して導き出せれば、アインシュタインテストに合格したことになる。ハサビスは「明らかに、現行のシステムではまだ不可能だ」と述べている。
持続学習は、もう一つの重要な欠落です。AGI実現に向けた六段階のロードマップによれば、持続学習は現在のエージェント段階に続く次の技術的ステップであり、将来的に自己反復(シンギュラリティ)や具身知能へと至るための必修過程です。持続学習とは、既存の知識を忘却することなく、新たな事象を不断に学び続ける能力を指します。人間には生まれつき備わっていますが、残念ながらLLMにはそうした特性はありません。LLMは「凍結された天才」であり、静的なデータセットに依存しているため、一度訓練が完了して運用に移されると重みが固定され、実際の経験を通じて学習・成長することはできません。持続学習の核心的な課題は「安定性―可塑性のジレンマ」にあり、災害的忘却(新しいことを学ぶことで古い知識を失う)と可塑性の喪失(新しいタスクに対する学習能力が継続的に低下する)という二つの大きな障壁に直面しています。
世界モデル:言語から行動へ
「私の言語の限界は、私の世界の限界である。」「世界とは、すべてが起こっていることである。」ヴィトゲンシュタインが百年前に述べたこの論断は、今日において驚くべき予言的な力を示している。
言語は人類が生み出した最も強力な発明であるが、それでも私たちの世界を十分に表象することはできない。現実世界は言葉や文字だけで構成されているわけではない。LLMは「暗闇の中の言葉の職人」であり、巧みな話術を持つ一方で、実際の物理世界における身体的な経験をまったく欠いている。単なる言語のスケール拡大だけでは不十分であり、物理世界や空間構造、時間の連続性、行動の結果といった要素を内面的に表現する能力を強化する必要がある。サットンが指摘するように、LLMはあくまで「一時的な熱中」にすぎず、真の知能のほんの一部しか捉えていない。真の知能には、世界モデルが不可欠である。
世界モデルは状態変化の予測器であり、「環境の状態が時間と行動に応じてどのように変化するか」を記述します。その本質は力学モデルにあり、次のような関数で表現できます:
世界モデルとは、パラメータθのもとで、現在の状態stとこれから実行しようとする行動atに基づき、次の状態ŝₜ₊₁を予測する関数である。物理世界は確率的であり部分観測可能であるため、次状態の確率分布を出力する方が現実の環境に近い。世界モデルの目的は、唯一の未来を正確に予測することではなく、計画に利用可能な未来の分布を構築することにある。世界モデルは「計算不能なものを計算する(Computing the Uncomputable)」ことで、言葉では表せない、本能的な、世界の動き方に関する根本的な認識を探求する。李飛飛とヤン・ルカンは、AI分野で最も重要なリーダーの二人である。李飛飛はImageNetデータセットを創設し、「AIの教母」として敬われている。一方、ヤン・ルカンは2018年のチューリング賞を受賞し、「畳み込みニューラルネットワークの父」と称されている。両者とも、世界モデルの最も強力な提唱者であり支持者でもある。李飛飛(2026年)は、世界モデルを三つのタイプに分類している:ピクセルを出力するレンダラー(renderer)、状態を出力するシミュレーター(simulator)、そして行動を出力するプランナー(planner)。彼女が創業した空間知能企業World Labsは、82億ドルの評価額でAMDに買収された。ヤン・ルカンはMetaを退職後、2025年末に故郷パリで世界モデル専門の企業AMI Labsを設立し、その評価額はすでに35億ドルに達している。
世界モデルはスタートアップの注目分野となっており、多くの企業が自社を世界モデル企業だと謳っています。NVIDIAやGoogleなどの大手企業も相次いで参入しています。NVIDIAはロボットや自動運転車、その他の物理システムが現実世界の環境をよりよく理解し予測できるよう支援することを目的とした、世界基礎モデルプラットフォーム「Cosmos」を発表しました。一方、Google DeepMindはGenie 3を「世界モデルの新たなフロンティア」と位置付けています。
「マスター起業」現象を重視する必要がある
重大な科学的発見や技術の進歩は、しばしば若者によって推進される。アインシュタインは「30歳になる前に科学的に大きな成果を上げられなければ、その後もそれは不可能だ」と述べた。量子力学の重要な創始者の一人であるディラックも、多くの偉大な物理学者が30歳以前に最も優れた業績を成し遂げていることを指摘している。トーマス・クーンは『科学革命の構造』において、「新しいパラダイムに関する根本的な洞察を生み出した人々のほとんどは、非常に若いか、あるいはまさにその変革の対象となる分野に足を踏み入れたばかりの段階にあった」と述べている。これはイノベーションにおける“30歳の法則”であり、より正確には“新人の法則”と呼べる。
「人工知能は若い分野であり、若者のための分野でもあります。」チューリングは24歳でチューリングマシンの仮説を提唱し、38歳でチューリングテストという思考実験を考案しました。ジョン・マッカーシーは28歳で「Artificial Intelligence」という用語を生み出しました。『Attention Is All You Need』を執筆した8人の著者も皆若者です。天才高校生の陳広宇は16歳で月之暗面に加わり機械学習研究員として働き、共同第一著者として論文『Attention Residuals』を発表しました。サム・アルトマンは19歳で大学を中退して起業し、30歳でOpenAIの設立に参加しました。同じく19歳で大学を中退して起業した人物には汪滔がおり、彼はデータラベリング企業Scale AIを創業し、28歳でMetaに加わって最高AI責任者を務めました。デミス・ハサビスは22歳で退職して起業し、34歳でDeepMindを設立しました。一方、ダリオ・アモディは38歳で6人のOpenAIの同僚を率いてAnthropicを設立しており、すでに高齢にあたります。
若さとは単に年齢を指すだけでなく、周囲から特別な光を放たない“普通の人”であることを意味します。例えば、マッカーシーがダートマス会議を主催した当時はまだ助教にすぎませんでしたし、「Transformer八子」たちも『Attention Is All You Need』を発表した時点では、それほど高い地位にはなく、ほとんど無名でした。
しかし、世界モデルの状況は異なり、多くの成功を収めた学者や教授が次々と起業に踏み出しています。ヤン・リクン氏とリー・フェイフェイ氏という二人の指導者は、それぞれ65歳と48歳で企業を設立しました。さらに、香港大学のマ・イー教授は51歳で憶生科技を創業し、カリフォルニア工科大学のアニマ・アナンドクマール教授は44歳でAccelerated Understandingを設立しました。清華大学のジュ・ジュン教授は40歳で生数科技を創業し、カリフォルニア大学サンディエゴ校の助教であるホアン・ビーウェイ氏と清華大学の准教授であるフェン・シュオ氏も比較的若く、いずれも創業時には35歳前後でした。これは、AI分野のユニコーン企業の創業者の平均年齢である29歳(出典:Antler、2026年)を大きく上回る水準です。下表をご参照ください。
表 教授が設立した世界モデル企業の一部
起業とは、既成の常識を打ち破り、新たな道を切り開くことであるが、その道は九死に一生を得るほど厳しいものでもある。若者は挑戦意欲に富み、旧来の固定観念による制約も少なく、手探りでやりながら学ぶ姿勢のほうが、新しい道を切り拓きやすい。一方、博識で華やかな教授たちは、アイドルとしての重圧や既存のルートへの依存があり、リスク回避型であることが多く、歴史的に見て真に成功した起業家はむしろ稀である。今日、学界の重鎮たちが世界モデルの分野に次々と参入している状況を、私たちはどのように捉えればよいのか。教授が名義だけを担い、実質的な作業は学生が行うといったケースは別として、主に二つの説明が考えられる。
第一に、世界モデル特殊論である。これは知識が極めて集中的に求められる分野であり、知識を熟知した教授こそが偉大な企業を創り上げる必要がある。
第二に、AIバブル論である。バブルの下では、投資家は寛大で、さまざまな夢に対して喜んで資金を投じる。世界モデルという概念は人々を熱狂させ、その熱狂ぶりはAIバブルの一端を示している。