基于逆激活回归的神经元合并压缩Sigmoid网络
Get the story
2026年10月5日，arXiv Machine Learning Theory（一手来源）发表论文，提出一种用于 sigmoid 神经网络训练后压缩的神经元合并方法。该方法通过逆激活函数将神经元响应映射回 pre-activation 空间，并用最小二乘法估计代表神经元的权重与偏置，同时给出无数据的贡献加权平均基线。论文分别验证了使用真实训练输入的数据辅助策略与使用随机输入的无数据策略。实验显示，在测试的 sigmoid 网络中，权重信息对聚类尤其有用，激活信息对合并过程中的代表神经元重建有用。目前未见与其他报道矛盾之处。
Generated from reports · updated 17 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Machine Learning Theory基于逆激活回归的神经元合并方法用于 sigmoid 神经网络训练后压缩
论文提出神经元合并方法，通过逆激活函数将神经元响应映射回 pre-activation 空间，并用最小二乘法估计代表神经元的权重与偏置，同时给出无数据的贡献加权平均基线。方法分别验证了使用真实训练输入的数据辅助策略与使用随机输入的无数据策略。在测试的 sigmoid 网络中，实验显示权重信息对聚类尤其有用，激活信息对合并过程中的代表神经元重建有用。
Heat trend
Current heat 6·Comparable peak 10（Oct 5）·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.