Berkeley AI Research·· 2026-03-13AI 评分50
识别大语言模型中的交互作用:SPEX 与 ProxySPEX 框架
Identifying Interactions at Scale for LLMs
AI 导读
SPEX 与 ProxySPEX 是用于在大规模下识别大语言模型关键交互作用的算法框架,利用稀疏性和低阶性将搜索问题转化为稀疏恢复问题。ProxySPEX 利用层次结构特性,以约 1/10 的消融次数达到与 SPEX 相当的性能。
来源:Berkeley AI Research · bair.berkeley.edu