arXiv · Computation and Language· Isaac Olufadewa, Miracle Adesina, Ezekiel Oladejo, Owen Adeniyi, Fadare Fadekemi, Olamide Oso, Uthman Babatunde, Matthew Olawoyin·· 5 小时前精选AI 评分66
超越上下文窗口：基于自适应熵的混合检索与长上下文路由框架
Beyond the Context Window: An Adaptive Entropy-Based Routing Framework for Hybrid Retrieval and Long-Context Language Models
AI 导读
论文提出 EDAR 框架，在推理时根据 RAG 响应前几个 token 的预测熵决定是使用检索结果还是升级到全长上下文处理，并在 LongBench v2 和 Infinity-Bench 上验证。预测熵与幻觉率高度相关（Pearson r=0.85），EDAR 保留纯长上下文 97.4% 的准确率，同时降低 70.7% 的 token 消耗，仅升级 18.2% 的查询。
推荐理由
用预测熵在推理时动态选择 RAG 或长上下文，可在几乎不损失精度的前提下大幅降低 token 支出。
来源：arXiv · Computation and Language · arxiv.org