Nick Cammarata与Goodfire称神经网络内部可解释

OpenAI前研究员Nick Cammarata与Goodfire团队发布长文《神经网络早已「干净」》，称神经网络内部计算有规律可循。团队通过画电路图、关闭神经元做干预等方式追踪判断形成过程，在320亿参数模型中粗略估计约90%的神经元各有一个主要任务，约2%至4%仍未被理解。 这一结论仍待检验：关掉20个被标为「圣诞节」或「圣诞老人」的神经元后，模型回答「圣诞老人」的概率仍有76%。Nick称这是一套等待更多检验的工作假说。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。