跳到正文
原文
arXiv · Statistics Machine Learning· Austin Watkins, Raman Arora·· 16 小时前AI 评分21

目标扰动下梯度下降的差分隐私

Differential Privacy of Gradient Descent on Perturbed Objectives

AI 导读

论文研究在正则化经验风险上加入随机线性项后,释放确定性梯度下降第 N 次迭代而非精确极小点的差分隐私。在目标函数强凸光滑且 Hessian 满足 Lipschitz 条件下,证明 z 到 w_N 的映射为 C¹ 微分同胚,隐私界不含显式环境维度因子,迭代修正项几何递减。期望超额经验风险上界为 dσ²/(2μ) 加几何递减优化项,并可转移到总体风险。

来源:arXiv · Statistics Machine Learning · arxiv.org