arXiv · Computation and Language· Dongkyu Cho, Rumi Chunara, Ali Behrouz·· 4 hr agoAI score28
语言模型中的自我保护:Qwen 持续学习与回放数据研究
Self-Preservation in Language Models
AI brief
研究以 Qwen 不同规模模型做持续指令微调,把任务描述与样例组织成 Task Banks,由冻结模型选择并组合条目生成回放数据。生成回放减少了库外任务的遗忘,合并部分库在全部测试规模上提升已答对样本的平均保持率;新任务引导的回放目标选择在 4B 规模优于随机选择,小模型未见相应优势。固定样例预算下,用回放替换新任务样例可增强保护但降低新任务收益。
Source: arXiv · Computation and Language · arxiv.org