Noise Your Prompt:扩散语言模型条件提示加噪
Get the story
2026年10月8日,arXiv Machine Learning Theory 发布一项研究,提出在连续扩散语言模型训练中对条件提示词 token 同样加噪,而非保持干净。该方法在 Sudoku Hard 上将求解率从 3.73% 提升到 24.65%,在 10x10 N-Queens 上将覆盖率从 50.60% 提升到 73.79%,并在 Gigaword 摘要任务上改善生成质量,但未迁移到开放式对话生成。改动仅需在训练目标中加一行,默认不增加推理成本,代码已公开。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Machine Learning TheoryNoise Your Prompt:在连续扩散语言模型中对条件 token 加噪
一项研究提出在连续扩散语言模型训练中对条件提示词 token 同样加噪,而非保持干净。该方法在 Sudoku Hard 上把求解率从 3.73% 提升到 24.65%,在 10x10 N-Queens 上把覆盖率从 50.60% 提升到 73.79%,并在 Gigaword 摘要任务上改善生成质量,但未迁移到开放式对话生成。改动仅需在训练目标中加一行,默认不增加推理成本,代码已公开。
Heat trend
Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.