arXiv · Machine Learning· Amir Rezaei Balef, Katharina Eggensperger·· 6 小时前AI 评分38
LoopICL:通过循环单个 Transformer 模块解决表格任务
LoopICL: Looping a single transformer block to solve tabular tasks
AI 导读
LoopICL 采用单模块循环架构,将参数规模与计算深度解耦,在相同计算量(FLOPs)下以近 90% 更少参数达到 TabICLv2 在 TabArena 和 TALENT 上的水平。用户可在推理时通过循环次数与学习退出门在性能与成本之间权衡。
来源:arXiv · Machine Learning · arxiv.org