多语言LLM中多跳推理的桥接路由头研究
Get the story
2026年10月8日,arXiv Computation and Language 发布一手研究《Bridge Routing Heads:多语言多跳推理在 LLM 中的位置》。研究在 Llama 3.1 70B 与 Qwen 2.5 72B 两种大语言模型中识别出 Bridge Routing Heads(BRH),并比较五种语言中的头集合分布。结果显示,这些语言之间的头集合几乎互斥,平均 Jaccard 相似度分别仅为 0.017 与 0.057。该发现表明不同语言在多跳推理中所依赖的桥接路由头存在明显差异。目前报道仅涉及这一项研究结果,尚未见后续验证或扩展工作。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Computation and LanguageBridge Routing Heads:多语言多跳推理在 LLM 中的位置
研究在 Llama 3.1 70B 与 Qwen 2.5 72B 中识别出 Bridge Routing Heads(BRH),发现五种语言的头集合几乎互斥,平均 Jaccard 相似度仅 0.017 与 0.057。
Heat trend
Current heat 9·Comparable peak 10(Oct 8)·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.