arXiv · Computation and Language· Yida Lin·· 8 小时前AI 评分38
PACT:成对锚定校准微调用于单标记类型决策
PACT: Pairwise-Anchored Calibrated Tuning for Single-Token Typed Decisions
AI 导读
PACT 将对比对数据中的结构转化为四项训练损失,在 324 项留出集上以 84.6% 准确率匹配已发布基线(85.2%),位置偏差降至 9.8%(基线 13.8%),有序字段 MAE 0.232(基线 0.311)。相比仅用交叉熵的对照组,PACT 在两个种子下更准确,种子间波动减半,NLL 降低 26%。代码、数据分割与训练记录已公开。
来源:arXiv · Computation and Language · arxiv.org