arXiv · Artificial Intelligence· Dhananjay Ashok, Shantanu Agarwal, Vivek Datla, Jonathan May, Alfy Samuel·· 16 小时前AI 评分46
如何训练你的世界模型:基于 LM 的世界建模中微调与 RAG 的对比
How To Train Your World Model: Fine-tuning vs RAG for LM-based World Modeling
AI 导读
论文系统比较了微调与 RAG 两种构建 LM 世界模型的路径,覆盖具身、网页导航和社交共 5 类环境,发现微调在 15/20 设置中让智能体获得更高奖励,而 RAG 数据效率更高。RAG 检索器持续从经验缓冲区捞出次优转移,层级式查询重构优于传统检索管线。最终提出的混合系统在多个环境与模型上持续胜出。
来源:arXiv · Artificial Intelligence · arxiv.org