arXiv · Machine Learning Theory· Dongsen Zhang, Peipei Li, Zekun Li, Wenjun Xu·· 4 hr agoAI score33
KITE:面向任务的关键层 KV 通信实现高效隐式多智能体协作
Task-Oriented Key-Layer KV Communication for Efficient Latent Multi-Agent Collaboration
AI brief
论文提出 KITE,一个免训练的面向任务的关键层 KV 通信框架,将隐式通信目标从发送端状态保真转向接收端任务充分性。KITE 用接收端轨迹失真准则选定任务有效关键层,只传输该层关联的隐式工作记忆,并以同层作为自回归隐式推理入口。在两个模型族、三个规模、七项基准上,相比全层 KV 通信,通信量降低 28-36×,端到端推理最高加速 3×,准确率最高提升 23.3 个百分点。
Source: arXiv · Machine Learning Theory · arxiv.org