arXiv · Machine Learning Theory· Ziyuan Wang, Fredrik D. Johansson·· 4 hr agoAI score34
MotherTree：在合成数据上做元学习，改进决策树训练
MotherTree: Meta-learning on synthetic data improves decision tree training
AI brief
MotherTree 是一种表格型 Transformer，通过元学习完成决策树归纳：给定新任务的训练集，在单次前向传播中输出与经典决策树等价的硬轴对齐树。它在合成先验上用随机梯度下降预训练，无需参考树监督；在受控样本量的基准上与递归划分、基于梯度的树学习、全局最优树及表格基础模型蒸馏方法相当，且持续优于从零开始的梯度学习，生成树经任务特定调优后在所有基准和样本量上均胜出。
Source: arXiv · Machine Learning Theory · arxiv.org