arXiv · Machine Learning Theory· Sowjanya Tammali, Wilkie Olin-Ammentorp·· 4 hr agoAI score22
Lock-in EP:一种用于振荡硬件的原地训练算法
Lock-in EP: An In-Situ Training Algorithm for Oscillatory Hardware
AI brief
研究者提出并验证了锁定平衡传播(LIEP)训练方法,可在振荡网络中为每个组件提供局部梯度信息,无需独立的前向与反向传播。LIEP 支持从零开始训练,也能在预训练参数受扰动后恢复性能,并可表述为三因子更新规则。该方法目前仅在浅层网络验证,作者认为其他架构或可将其扩展到深层与大规模网络。
Source: arXiv · Machine Learning Theory · arxiv.org