Skip to content
Hot eventLive

IrekoGPT:将结构化剪枝转化为事后可瘦身的LLM

1 reports1 sources3 hr ago updated

Get the story

AI overview

IrekoGPT 是一种事后方法,能在推理时动态调整预训练大语言模型的宽度,使单模型可暴露不同宽度的嵌套子网络。该方法保留 SliceGPT 的投影矩阵不剪枝,通过跨多个压缩比校准各层,并用无梯度岭回归修正下游线性层。

Generated from reports · updated 3 hr ago

Timeline

Follow the coverage from different angles.

Oct 2, 2026
  1. arXiv · Statistics Machine Learning
    IrekoGPT:将结构化剪枝转化为事后可动态调整宽度的 LLM

    IrekoGPT 是一种事后方法,能在推理时调整预训练大语言模型的宽度,单模型可暴露不同宽度的嵌套子网络。该方法保留 SliceGPT 的投影矩阵不剪枝,通过跨多个压缩比校准各层,并用无梯度岭回归修正下游线性层。

Heat trend

There is not enough continuous observation data to draw a trend yet.