跳到正文
原文
arXiv · Machine Learning Theory· Xiaoyu Li, Zhizhou Sha, Chiwun Yang, Dai Shi·· 2 小时前AI 评分31

参数高效微调的分类图谱:锥、轨道与规范

A Categorical Atlas of Parameter-Efficient Fine-Tuning: Cones, Orbits, and Gauges

AI 导读

论文把数百种参数高效微调方法视为权重空间中的映射,构建以冻结模型为起点、全量微调为终点的切片范畴,并用映射在基点附近的像、纤维与基变换三类不变量统一刻画表达力、训练动态与合并量化等行为。

来源:arXiv · Machine Learning Theory · arxiv.org