文本分类器服务上下文非确定性研究
Get the story
2026年10月8日,arXiv Computation and Language 发表一项关于文本分类器服务上下文非确定性的一手研究。研究在固定 checkpoint 与输入文本的前提下训练 180 个模型,系统检验批大小、批组成、硬件与推理引擎等服务上下文变化的影响,并覆盖四类服务场景。结果显示,fp32 下仅改变批形状不改变标签;但在 bf16 下,预测概率质量最多移动 56.7 个百分点,标签变化集中在小边界处;全生成式分类器比判别式分类器改变更多标签。研究还给出各类服务变化下标签稳定的充分条件与相应缓解措施。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computation and Language相同文本、不同预测:文本分类器的服务上下文非确定性研究
研究系统检验了批大小、批组成、硬件与推理引擎等服务上下文变化对文本分类的影响,在固定 checkpoint 与文本的前提下训练 180 个模型并覆盖四类服务场景。fp32 下仅改变批形状不改变标签,但 bf16 下预测概率质量最多移动 56.7 个百分点,标签变化集中在小边界处;全生成式分类器比判别式分类器改变更多标签。研究给出各类服务变化下标签稳定的充分条件与对应缓解措施。
Heat trend
Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.