仅预填充决策模型读出稳定性研究
Get the story
2026年10月7日,arXiv Computation and Language 发布一手研究《仅预填充决策模型的读出稳定性:零标注预测与推理时算力分配》。研究对象为受 Jev 模型启发的仅预填充决策模型,其特点是在单次前向传播中为菜单内所有候选打分且不进行解码,单次调用成本比同规模生成式语言模型低一至两个数量级。研究发现,仅改变候选菜单时,干预后准确率可由缓存的首次通过分布预测:在七个模型族、十个数据集和两类任务上,误差在 4.2 个百分点以内;概率级变体误差为 21.0 个百分点;同规模生成式语言模型误差为 1.6 至 15.8 个百分点。目前报道仅涉及该论文内容,未见后续验证或争议信息。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computation and Language仅预填充决策模型的读出稳定性:零标注预测与推理时算力分配
仅预填充决策模型受 Jev 模型启发,在单次前向传播中为菜单内所有候选打分且不进行解码,单次调用成本比同规模生成式语言模型低一至两个数量级。研究发现仅改变候选菜单时,干预后准确率可由缓存的首次通过分布预测:在七个模型族、十个数据集和两类任务上误差在 4.2 个百分点以内,概率级变体误差为 21.0 个百分点,而同规模生成式语言模型误差为 1.6 至 15.8 个百分点。
Heat trend
Current heat 9·Comparable peak 10(Oct 7)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.