跳到正文
原文
arXiv · Multiagent Systems· Xing Zhang, Guanghui Wang, Yanwei Cui, Mengdie Flora Wang, Peiyang He·· 3 小时前AI 评分44

UnitBoost:用合并算子而非模型管理复合 LLM 系统

UnitBoost: Managing Compound LLM Systems with a Merge Operator, Not a Model

AI 导读

UnitBoost 用定义好的元级算子替代复合 LLM 系统中的生成式管理模型:任务给定的 unit map 把 worker 输出转成 slot-value 提议,受约束 argmax 组装输出,未填充 slot 作为显式 residual 进入下一轮。

来源:arXiv · Multiagent Systems · arxiv.org