arXiv · Machine Learning Theory· Zeyong Zhang, Tung Sum Thomas Kwok, Tengfei Ma, Mengjia Xu·· 16 小时前AI 评分34
犹豫也有几何结构:用于稀疏激活引导的熵训练双曲探针
Hesitation Has a Geometry: Entropy-Trained Hyperbolic Probes for Sparse Activation Steering
AI 导读
研究者提出 Hyperbolic Entropy Steering(HEST),用仅以模型自身 next-token entropy 为标签的轻量探针,把隐藏状态嵌入 Poincaré ball,只在熵超阈值处沿测地线方向调整。
来源:arXiv · Machine Learning Theory · arxiv.org