跳到正文
热点事件持续更新

Phase-HDC:用梯度阈值替代优化器历史状态

1 篇报道1 个报道来源2 小时前 更新

先了解这件事

AI 综述

2026年10月9日,arXiv 机器学习理论方向发布一手报道,提出 Phase-HDC 方法:一种只保存模型参数、不保存优化器历史状态的训练方式。其更新规则为每次最多将低比特角度参数移动一步,且仅当梯度足够大时才触发更新。报道指出,该规则是“每个被改动参数支付固定代价”的一阶损失模型的精确解;在其余条件不变的情况下,其精度与使用 6-bit moments 的 Adam 相当,而存储开销减少 3 倍。目前该报道为事件唯一来源,尚未出现后续验证、复现或相互矛盾的信息。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv · Machine Learning Theory
    Phase-HDC:用梯度阈值替代优化器历史状态的离散相位学习

    Phase-HDC 提出一种只存模型、不存优化器历史状态的训练方法:每次更新最多把低比特角度参数移动一步,且仅当梯度足够大时触发。该规则是“每个被改参数支付固定代价”的一阶损失模型的精确解;在其余条件不变时,其精度与使用 6-bit moments 的 Adam 相当,存储少 3 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。