OpenAI前研究员Nick Cammarata与Goodfire发文称神经网络内部早已可解释

Nick Cammarata与Goodfire团队发布长文《神经网络早已「干净」》，认为神经网络内部计算有规律可循。团队通过画电路图、关闭神经元做干预等方式追踪判断形成过程，在320亿参数模型中粗略估计约90%的神经元各有一个主要任务，约2%至4%仍未理解。