仅预填充决策模型的读出稳定性：零标注预测与推理时算力分配

仅预填充决策模型受 Jev 模型启发，在单次前向传播中为菜单内所有候选打分且不进行解码，单次调用成本比同规模生成式语言模型低一至两个数量级。研究发现仅改变候选菜单时，干预后准确率可由缓存的首次通过分布预测：在七个模型族、十个数据集和两类任务上误差在 4.2 个百分点以内，概率级变体误差为 21.0 个百分点，而同规模生成式语言模型误差为 1.6 至 15.8 个百分点。