跳到正文
原文
arXiv · Machine Learning Theory· Zeyong Zhang, Tung Sum Thomas Kwok, Tengfei Ma, Mengjia Xu·· 16 小时前AI 评分34

犹豫也有几何结构:用于稀疏激活引导的熵训练双曲探针

Hesitation Has a Geometry: Entropy-Trained Hyperbolic Probes for Sparse Activation Steering

AI 导读

研究者提出 Hyperbolic Entropy Steering(HEST),用仅以模型自身 next-token entropy 为标签的轻量探针,把隐藏状态嵌入 Poincaré ball,只在熵超阈值处沿测地线方向调整。

来源:arXiv · Machine Learning Theory · arxiv.org