arXiv · Statistics Machine Learning· Henry Bourne, Robert F. Allison·· 3 hr agoAI score40
从像素到隐私敏感特征：重构误差界的信息论框架
From Pixels to Privacy-Sensitive Features: An Information-Theoretic Framework for Reconstruction Bounds
AI brief
论文提出一个信息论框架，为 DP-SGD 训练模型给出可在训练前计算的重构失真下界，对手即使观察训练参数轨迹、掌握其余训练记录与数据分布也适用。该框架用条件互信息度量训练泄露、用源熵度量数据固有不确定性，再由率失真理论合成下界；DP-SGD 泄露仅取决于采样率与噪声乘子，源熵可由有限样本置信下界估计。
Source: arXiv · Statistics Machine Learning · arxiv.org