Skip to content
Hugging Face Blog·· 18d agoSelectedAI score62

像物理学家一样剪枝大语言模型:块移除作为约束二元优化问题

Pruning LLMs Like a Physicist: Block Removal as an Ising Optimization Problem

AI brief

Multiverse Computing 将 LLM 深度剪枝重构为约束二元优化问题,等价于全耦合伊辛自旋玻璃,用 Hessian 能量作为下游质量代理,避免逐条评测。

Why it matters

把深度剪枝重新表述为伊辛自旋玻璃优化问题,可用廉价能量代理替代逐条评测,且与量化、低秩压缩等手段堆叠。

Source: Hugging Face Blog · huggingface.co