跳到正文
原文
arXiv · Machine Learning Theory· Yannick Lunk, Atell Yehor Krasnopolsky, Damien Garreau, Leon Bungert·· 3 小时前AI 评分20

对抗训练神经网络显著性图稀疏性的理论解释

Explaining the Saliency Map Sparsity of Adversarially-Trained Neural Networks

AI 导读

论文针对对抗训练神经网络梯度显著性图呈现稀疏性的经验观察,为两层 ReLU 网络给出理论解释。研究基于对抗训练等价于带权重衰减惩罚与对抗全变差项的经验风险最小化,证明在数据点与神经元数量增长、正则化参数按适当速率趋零时,极小化解收敛到具有最小梯度范数与 Barron 范数的 Bayes 分类器。

来源:arXiv · Machine Learning Theory · arxiv.org