均值场神经网络训练中非线性观测量的波动

该研究在加权 Sobolev 空间中证明，浅层神经网络经随机梯度下降训练时，均值场波动可传播到有限维非线性观测量，并给出普通 Fréchet 可微条件下的泛函 Delta 方法。所得中心极限定理与显式协方差公式无需 Lions 导数。在常数秩假设下，观测量微分的核包含于目标量微分的核是目标量局部因式化的充要条件。