arXiv · Machine Learning· Aleksei Leonov, Nikita Kornilov, Zhenhe Zhang, Evgeny Burnaev, Iaroslav Koshelev, Alexander Korotin·· 7 小时前AI 评分38
Data Unlearning via Inverse Distillation
Data Unlearning via Inverse Distillation
AI 导读
提出逆蒸馏遗忘(IDU)框架,在同时蒸馏教师多步匹配模型为一步学生生成器的同时抑制指定训练子集的输出。将蒸馏形式化为数据分布上的 min-max 目标,用遗忘集与生成分布的混合与教师训练分布对比,在最优处仅恢复保留数据。实验表明 IDU 在 MNIST 和 CIFAR-10 上显著降低遗忘类生成频率,同时保持保留类生成质量,是无条件流匹配与得分扩散模型中首个统一遗忘与蒸馏的框架。
来源:arXiv · Machine Learning · arxiv.org