热点事件持续更新
全晶体管物理学习Transformer实现上下文学习
1 篇报道1 个报道来源2 小时前 更新
先了解这件事
AI 综述
2026年10月12日,arXiv机器学习理论方向的一手研究报道提出一种全晶体管物理学习Transformer,可在物理电路上被训练执行上下文学习。研究通过在双电路中引入额外电路元件恢复双向信息流,并利用亚阈值MOSFET的指数电流律构建注意力机制。仿真显示该电路可完成简单的上下文学习任务,但训练需采用交叉熵损失而非均方误差,并用基于MOSFET子电路的新型浮空元件生成扰动。电路中的电阻使用Lion优化器训练,每个参数用一颗电容存储历史梯度估计。目前进展仍停留在仿真验证阶段,报道未提及实物硬件验证或外部复现结果。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
新研究提出全晶体管物理学习Transformer,仿真显示可执行简单上下文学习任务。报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv · Machine Learning Theory全晶体管物理学习 Transformer 可被训练执行上下文学习
研究提出一种全晶体管物理学习 Transformer,通过在双电路中引入额外电路元件恢复双向信息流,并利用亚阈值 MOSFET 的指数电流律构建注意力机制。仿真显示该电路可完成简单的上下文学习任务,但需采用交叉熵损失而非均方误差,并用基于 MOSFET 子电路的新型浮空元件生成扰动。电路中的电阻使用 Lion 优化器训练,每个参数用一颗电容存储历史梯度估计。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。