「私たちはずっと誤解していた」:Goodfireの研究者がニューラルネットワークの説明可能性に関する新たな視点を提示し、AI界に衝撃を与える
Goodfireの研究者ニック・カマラタ氏は、2万6千語に及ぶ長文を公開し、大規模言語モデル(LLMs)の内部メカニズムは、学界の予想をはるかに上回るほど構造的で理解しやすい可能性があると主張している。その核心的な論点は、Inception v1などのモデルにおける「多義ニューロン」の再解釈に基づいており、たとえば「猫と車を同時に活性化するニューロン」は、無秩序な重複ではなく、V字型の視覚パターンに応答するものであるという見方を示している。なお、この見解は現行のLLMにおいて体系的な検証がまだ行われておらず、スタンフォード大学のクリス・ポッツ氏やAlignment Research Centerのジェイコブ・ヒルトン氏らによって、その普遍性および技術的深さについて疑問が呈されている。