arXiv · Statistics Machine Learning· Haotian Gu, Yizhou Xu, Lenka Zdeborov\'a·· 3 小时前AI 评分23
单指标目标上下文学习:核学习器与特征学习器的比较
In-context Learning of Single-index Targets: Comparing Kernel and Feature Learners
AI 导读
summary_zh: 该研究对比了两种单层注意力架构在非线性单指标任务上的上下文学习表现:核学习器通过固定非线性特征映射后接线性注意力,特征学习器则对原始输入做注意力后再经学习的非线性读出。
来源:arXiv · Statistics Machine Learning · arxiv.org