Skip to content
Hot eventLive

论文审视LLM测试时幂采样：未收敛，增益近似Best-of-N

1 reports1 sources2 hr ago updated

Get the story

AI overview

2026年10月12日，arXiv Statistics Machine Learning 发布一手论文《重新审视测试时锐化 LLM 的幂采样》。论文指出，在现实算力预算下，幂采样无法收敛到目标分布 π_α；其收益大多可由配合合适评分的 Best-of-N 复现，说明成功来自选中高概率序列，而非逼近 π_α。为验证该假设，作者通过微调基座模型直接匹配 π_α，结果比现有采样器更忠实逼近目标，但收益呈噪声化，且仅对特定模型和采样任务有效。

Generated from reports · updated 2 hr ago

LatestOct 12
论文称幂采样未收敛至π_α，增益多可由合适评分的Best-of-N复现。

Timeline

Follow the coverage from different angles.

Oct 12, 2026
  1. arXiv · Statistics Machine Learning
    重新审视测试时锐化 LLM 的幂采样

    论文指出幂采样在现实算力预算下无法收敛到目标分布 π_α，其收益大多可由配合合适评分的 Best-of-N 复现，说明成功来自选中高概率序列而非逼近 π_α。作者通过微调基座模型直接匹配 π_α 验证该假设，虽比现有采样器更忠实逼近目标，收益却呈噪声化且仅对特定模型和采样任务有效。

Heat trend

There is not enough continuous observation data to draw a trend yet.