arXiv · Computation and Language· Veronika Solopova, Ivan Havlytskyi, Viktoria Skorik, Ostap Vykhopen·· 3 hr agoAI score29
GeopoliticalQA:面向情报报告的检索与生成评测基准
GeopoliticalQA: Benchmarking Retrieval and Generation over Intelligence Reports
AI brief
GeopoliticalQA 基准基于 415 份开源地缘政治与战略情报报告构建,含 5,525 个文档级问答对,覆盖事实、推理、比较与风险类问题。研究评测了 15 个检索系统与 6 个开放权重 LLM 的 RAG 表现,发现文档级检索水平相近,但 chunk 级检索质量不取决于嵌入模型规模:中等规模开源编码器 bge-m3 比得上大一个数量级的模型并优于商业嵌入 API。
Source: arXiv · Computation and Language · arxiv.org