Hugging Face Blog·· 18d agoSelectedAI score62
像物理学家一样剪枝大语言模型:块移除作为约束二元优化问题
Pruning LLMs Like a Physicist: Block Removal as an Ising Optimization Problem
AI brief
Multiverse Computing 将 LLM 深度剪枝重构为约束二元优化问题,等价于全耦合伊辛自旋玻璃,用 Hessian 能量作为下游质量代理,避免逐条评测。
Why it matters
把深度剪枝重新表述为伊辛自旋玻璃优化问题,可用廉价能量代理替代逐条评测,且与量化、低秩压缩等手段堆叠。
Source: Hugging Face Blog · huggingface.co