JEV与LLM在政治学复现任务上的准确率、成本和校准对比
Get the story
2026年10月7日,arXiv Computers and Society发布一手研究,在七项政治学复现任务中比较JEV与GPT-6 Luna、Qwen3.8-27B。结果显示,JEV的准确率与两者相当或接近;按OpenAI批量定价,JEV并无成本优势。校准方面,单次提问时JEV的概率校准优于GPT-6 Luna的token概率,但并非稳定优于Qwen3.8-27B。研究指出,除非需要速度,JEV唯一明显优势是便于解析选项概率。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computers and SocietyJEV 对比 LLM:七项政治学复现实验的准确率、成本与校准度
JEV 在七项政治学复现任务中与 GPT-6 Luna 和 Qwen3.8-27B 能力相当或接近,但按 OpenAI 批量定价并无成本优势。单次提问时 JEV 的概率校准优于 GPT-6 Luna 的 token 概率,却并非稳定优于 Qwen3.8-27B;除非需要速度,JEV 唯一明显优势是便于解析选项概率。
Heat trend
Current heat 9·Comparable peak 10(Oct 7)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.