arXiv · Computation and Language· Shuyu Gan, Young-Jun Lee, Dongyeop Kang·· 3 小时前AI 评分38
SanSi:用于 System 1.5 思考的循环类型化决策模型
SanSi: A Looped Typed Decision Model for System 1.5 Thinking
AI 导读
SanSi 把预训练循环语言模型变成类型化决策模型,在单次前向传播中不生成 token,而是对声明选项输出概率;同一层被递归应用多次,每次循环都读取选项概率并用 proper scoring rule 训练,使一个模型在一次运行中覆盖 1 到 8 个循环的预算。
来源:arXiv · Computation and Language · arxiv.org