U-Space:揭示语言模型不确定性产生的时间与原因
Get the story
研究者提出 U-Space,一个用于度量和解释语言模型在推理过程中不确定性如何随时间变化的低维子空间。该方法首先识别表示怀疑与确定性的语义锚点,再将这些锚点的反嵌入方向映射回残差空间,构成一组正交基。配套工具 U-Lens 把每个 token 的状态投影到这些基向量上,生成可逐 token 检查的不确定性图,也可聚合为标量分数,用于整体比较。论文发表于 arXiv(Computation and Language),属于一手研究报道;目前公开信息仅涉及方法框架与投影机制,未见后续实验数据或第三方验证。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computation and LanguageU-Space:揭示语言模型不确定性何时以及为何产生
研究者提出 U-Space,一个低维子空间,用于度量和解释语言模型在推理过程中不断变化的不确定性。该方法识别怀疑与确定性的语义锚点,将其反嵌入方向映射回残差空间并构成正交基;U-Lens 把每个 token 状态投影到这些基向量上,生成可检查的 token 级不确定性图,也可聚合为标量分数。
Heat trend
Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.