arXiv · Statistics Machine Learning· Pietro Moriello, Pietro Buzzega, Angelo Porrello, Simone Calderara·2026-10-02 12:00· 3 小时前AI 评分22

IrekoGPT：将结构化剪枝转化为事后可动态调整宽度的 LLM

IrekoGPT: Turning Structured Pruning into Post-Hoc Slimmable LLMs

AI 导读

IrekoGPT 是一种事后方法，能在推理时调整预训练大语言模型的宽度，单模型可暴露不同宽度的嵌套子网络。该方法保留 SliceGPT 的投影矩阵不剪枝，通过跨多个压缩比校准各层，并用无梯度岭回归修正下游线性层。