在自回归语言模型下用势函数估计期望

论文提出在自回归语言模型下利用采样时自然得到的 next-token 条件概率，更高效地估计测试泛函的期望。方法通过定义在 prefix 上的实值势函数对测试泛函进行加性分解，构造出方差依赖于所选势函数的估计量，并推导出势函数降低方差的条件。在多个估计目标上以相近计算成本实现了显著的方差降低。