跳到正文
原文
arXiv · Computation and Language· Donggyun Kim, Jack Lu, Chanwoo Kim, Mengye Ren, Seunghoon Hong·· 16 小时前AI 评分39

HyperThink:面向高效推理的文本到参数超网络

HyperThink: Text-to-Parameter Hypernetworks for Efficient Reasoning

AI 导读

HyperThink 提出文本到参数方法,把长思维链推理计算摊销为一次查询条件化的参数更新:轻量超网络读取问题并预测基础 LLM 部分参数更新,向量量化解码器将其约束到可复用模式。测试时无需中间思维链,一次超网络前向传播后直接生成简洁步骤与答案,用更少 token 保持推理性能。该方法改善数学与通用推理任务的精度-延迟权衡,在近非思考区间收益最大。

来源:arXiv · Computation and Language · arxiv.org