arXiv · Artificial Intelligence· Pinaki Mohanty, Haoran Tang, Maggie Makar, Rajiv Khanna·2026-10-01 12:00· 3 小时前AI 评分34

分布式机器学习遗忘：Mamushi 框架实现非参数化 LLM 表示空间解学习

Learning What to Forget: Distributional Unlearning for LLM Representation Spaces

AI 导读

论文提出 Mamushi 框架，通过非参数化概率分类器对遗忘样本排序，其 Bayes 最优 logit 等于遗忘与保留的对数密度比。在毒语言和主题领域移除实验中，Mamushi 实现了更优的移除-保留权衡，并能减少达到固定遗忘目标所需的遗忘样本数。