arXiv · Information Retrieval· Hao Jiang, Peiru Du, Pengfei Yao, Mengting Li, Siyuan Lou, Kuo Cai, Sheng Yu, Qiang Luo, Jian Liang, Ruiming Tang, Fei Pan, Peng Jiang, Wenwu Ou·· 7 小时前AI 评分34
OneLatent:面向基础推荐模型的隐式推理框架
OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models
AI 导读
OneLatent 将显式思维链推理轨迹压缩为可学习隐式 token,实现 Latent-Reason-then-Answer 推理,在 Kuaishou 工业数据集和 Kuaishou LLM-Rec 基准上,SID@64 相对 Think/No-Think 变体分别提升 17.44% 和 9.33%,在线推理吞吐提升超 17 倍。
来源:arXiv · Information Retrieval · arxiv.org