arXiv · Artificial Intelligence· Shreya Saha, Benjamin Bergen, Meenakshi Khosla·· 2 小时前AI 评分43
神经网络比单个神经元显示的更具模块化
Neural networks are more modular than single neurons suggest
AI 导读
研究提出单元级、正交与线性三层嵌套模块化定义,并用选择性消融因果评估各层分解。视觉与语言模型虽无单元级模块化,却在子空间层面呈现内容/风格、句法/语义的功能分离;RNN 多任务分解也恢复出任务间双重分离。该结果支持对无专门神经元的网络做靶向干预,对机制可解释性有广泛意义。
来源:arXiv · Artificial Intelligence · arxiv.org