“我们一直看错了”:Goodfire研究员提出神经网络可解释性新视角,引发AI界震动
Goodfire研究员Nick Cammarata发布26000字长文,主张大语言模型(LLMs)的内部机制可能远比学界预想的更结构化、更可理解;其核心论点基于对Inception v1等模型中‘多义神经元’的重新诠释——如‘猫/车共用神经元’实为响应V形视觉模式,而非无序超置。该观点尚未在现代LLM上完成系统验证,遭斯坦福大学Chris Potts、Alignment Research Center Jacob Hilton等学者质疑其普适性与技术深度。