DivMoE：跨域专家组合实现细粒度MoE升级回收
Get the story
2026年10月9日，arXiv（Artificial Intelligence，一手来源）发布 DivMoE 框架，提出通过跨域专家组合实现细粒度 MoE 升级回收。该框架号称是首个实现结构均衡路由的细粒度 MoE 升级回收方案，核心思路是用领域专业化细粒度专家初始化，并配合多样性约束路由，以解决朴素路由崩溃问题。实验在 Qwen3-1.7B 上进行：DivMoE 平均准确率达 55.6%，超过最强基线的 51.6%；相比之下，Drop-Upcycling 细粒度版本仅为 23.2%。目前公开信息仅包含该论文报道，尚未见后续独立验证或同行评议结果。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- arXiv · Artificial IntelligenceDivMoE：通过跨域专家组合实现细粒度 MoE 升级回收
DivMoE 是首个实现结构均衡路由的细粒度 MoE 升级回收框架，通过领域专业化细粒度专家初始化与多样性约束路由解决朴素路由崩溃问题。在 Qwen3-1.7B 上，DivMoE 平均准确率达 55.6%，超过最强基线 51.6%，而 Drop-Upcycling 细粒度版仅 23.2%。
Heat trend
Current heat 9·Comparable peak 10（Oct 9）·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.