IrekoGPT：将结构化剪枝转化为事后可瘦身的LLM

IrekoGPT 是一种事后方法，能在推理时动态调整预训练大语言模型的宽度，使单模型可暴露不同宽度的嵌套子网络。该方法保留 SliceGPT 的投影矩阵不剪枝，通过跨多个压缩比校准各层，并用无梯度岭回归修正下游线性层。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。