arXiv · Computation and Language· Houcheng Jiang, Mao Zheng, Mingyang Song, Qiyong Zhong, Jie Sun, Tianyu Zhang, Junfeng Fang·· 3 小时前AI 评分38
ReCal：面向在线策略蒸馏恢复的校准式结构化剪枝方法
ReCal: Calibrating Structured Pruning for On-Policy Distillation Recovery
AI 导读
论文提出 ReCal（Recovery-Aware Calibration），一种即插即用方法，通过在剪枝前调整校准来提升剪枝后推理语言模型的在线策略蒸馏（OPD）恢复效果。
来源：arXiv · Computation and Language · arxiv.org