arXiv · Machine Learning Theory· Haifeng Wu, Srinivasan Manoharan, Jian Wan, Fangbo Tu, Junhua Zhao, Xin Chen·· 16 小时前AI 评分26
学生引导教师蒸馏的高效 LLM 任务路由：对标 Jev 式 System-1 分类器
Student-Guided Teacher Distillation for Efficient LLM Task Routing: Positioning Against Jev-Style System-1 Classifiers
AI 导读
论文提出学生引导教师蒸馏管线，在固定 60 类 LLM 任务分类法中用 ModernBERT 单次前向预测类别分布并召回 top-k，再由 DeBERTa-v3 zero-shot NLI 分类器仅对这些候选重排序，教师标签迭代改进学生。
来源：arXiv · Machine Learning Theory · arxiv.org