跳到正文
原文
arXiv · Machine Learning Theory· Shixuan Liu, Tongli Zhou, Junwei Deng, Pingbang Hu, Jiaqi W. Ma·· 3 小时前AI 评分34

dattri-LLM:面向大语言模型训练数据归因的统一高效库

dattri-LLM: A Unified and Efficient Library for Training Data Attribution at LLM Scale

AI 导读

dattri-LLM 是一个基于梯度的训练数据归因(TDA)库,通过紧凑梯度表示和动态路由提升计算效率,兼容 DDP、FSDP 及 HuggingFace Transformers、TRL、OLMo 等训练框架。

来源:arXiv · Machine Learning Theory · arxiv.org