Lilian Weng·· 2022-09-09AI 评分28
神经网络正切核(NTK)的数学原理
Some Math behind Neural Tangent Kernel
AI 导读
summary_zh: Neural tangent kernel(Jacot et al. 2018)是一种核方法,用于通过梯度下降解释神经网络在训练过程中的演化,并说明足够宽的神经网络为何总能收敛到全局最小值。
来源:Lilian Weng · lilianweng.github.io
Some Math behind Neural Tangent Kernel
summary_zh: Neural tangent kernel(Jacot et al. 2018)是一种核方法,用于通过梯度下降解释神经网络在训练过程中的演化,并说明足够宽的神经网络为何总能收敛到全局最小值。
来源:Lilian Weng · lilianweng.github.io