热点事件持续更新
Phase-HDC:用梯度阈值替代优化器历史状态
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
2026年10月9日,arXiv 机器学习理论方向发布一手报道,提出 Phase-HDC 方法:一种只保存模型参数、不保存优化器历史状态的训练方式。其更新规则为每次最多将低比特角度参数移动一步,且仅当梯度足够大时才触发更新。报道指出,该规则是“每个被改动参数支付固定代价”的一阶损失模型的精确解;在其余条件不变的情况下,其精度与使用 6-bit moments 的 Adam 相当,而存储开销减少 3 倍。目前该报道为事件唯一来源,尚未出现后续验证、复现或相互矛盾的信息。
AI 根据报道生成 · 2 小时前更新
最新进展10月9日 12:00
Phase-HDC 新方法发布,称以梯度阈值触发更新,精度与 6-bit Adam 相当且存储少 3 倍。报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv · Machine Learning TheoryPhase-HDC:用梯度阈值替代优化器历史状态的离散相位学习
Phase-HDC 提出一种只存模型、不存优化器历史状态的训练方法:每次更新最多把低比特角度参数移动一步,且仅当梯度足够大时触发。该规则是“每个被改参数支付固定代价”的一阶损失模型的精确解;在其余条件不变时,其精度与使用 6-bit moments 的 Adam 相当,存储少 3 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。