arXiv · Machine Learning Theory· Xiaoyu Li, Zhizhou Sha, Chiwun Yang, Dai Shi·· 3 hr agoAI score31
参数高效微调的分类图谱:锥、轨道与规范
A Categorical Atlas of Parameter-Efficient Fine-Tuning: Cones, Orbits, and Gauges
AI brief
论文把数百种参数高效微调方法视为权重空间中的映射,构建以冻结模型为起点、全量微调为终点的切片范畴,并用映射在基点附近的像、纤维与基变换三类不变量统一刻画表达力、训练动态与合并量化等行为。
Source: arXiv · Machine Learning Theory · arxiv.org