arXiv · Machine Learning· Shenghong Dai, Shiva Kumar Pentyala, Yingchi Liu, Shubham Mehrotra, Suman Banerjee, James Zhu, Bin Bi, Sitaram Asur, Phil Mui·· 6 小时前AI 评分50
Koa-action:面向生成式大语言模型的快速且一致的结构化决策框架
Koa-action: Fast and Consistent Structured Decision Making with Generative LLMs
AI 导读
Koa-action 将分类等原子动作约束为单 token 输出,通过监督微调实现确定性一步解码。在生产意图路由基准上达到 85.5% 准确率,与 Claude-4.8-Opus、Gemini-Pro-3.1 持平,领先 GPT-5 和 Gemini-2.5-Pro;响应约半秒,中位速度较前沿模型快最高约 7.5 倍,同时支持多模态输入与多标签输出。
来源:arXiv · Machine Learning · arxiv.org