arXiv · Computation and Language· Seunghan Kim, Minyeong Choe, Hyunil Kim, Haehyun Cho·· 4 hr agoAI score41
Bridge Routing Heads:多语言多跳推理在 LLM 中的位置
Bridge Routing Heads: Where Multilingual Multi-hop Reasoning Lives in LLMs
AI brief
研究在 Llama 3.1 70B 与 Qwen 2.5 72B 中识别出 Bridge Routing Heads(BRH),发现五种语言的头集合几乎互斥,平均 Jaccard 相似度仅 0.017 与 0.057。
Source: arXiv · Computation and Language · arxiv.org