跳到正文
原文
arXiv · Computation and Language· Dongkyu Cho, Rumi Chunara, Ali Behrouz·· 3 小时前AI 评分28

语言模型中的自我保护:Qwen 持续学习与回放数据研究

Self-Preservation in Language Models

AI 导读

研究以 Qwen 不同规模模型做持续指令微调,把任务描述与样例组织成 Task Banks,由冻结模型选择并组合条目生成回放数据。生成回放减少了库外任务的遗忘,合并部分库在全部测试规模上提升已答对样本的平均保持率;新任务引导的回放目标选择在 4B 规模优于随机选择,小模型未见相应优势。固定样例预算下,用回放替换新任务样例可增强保护但降低新任务收益。

来源:arXiv · Computation and Language · arxiv.org