Kimi K3 开发者指南：2.8T 参数开源模型发布
Kimi K3 是 Moonshot AI 发布的 2.8 万亿参数开源模型，是全球首个 3 万亿参数量级的开源模型，支持 1M 上下文长度，在 Together AI 上提供 OpenAI 兼容 API。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
推理能力
全部主题模型推理能力的进展：思维链、推理模型、数学与逻辑基准的突破与争议。
最新精选
第 21–40 条 · 共 40 条Together AI精选AI 评分8989
Berkeley AI Research精选AI 评分6060 ABBEL：教大语言模型更新信念以实现高效长程交互
Berkeley AI Research 提出 ABBEL 框架，将交互历史压缩为自然语言信念状态，并通过信念评分监督信念内容。在 CollabBench 协作编程中，ABBEL 恢复约一半全上下文性能差距，峰值上下文 token 数降至约 4.2 万，训练步数减半；在 Combination Lock 游戏中，结合领域知识的信念评分可接近或超越全上下文模型。
推荐理由：通过将摘要隔离为可监督的信念状态，在协作编程和组合游戏中以更少训练步数和更低显存缩小了与全上下文模型的性能差距。
Google DeepMind精选AI 评分6666 Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber
Google DeepMind 发布 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型。
推荐理由：新模型在 token 效率和成本上较 3.5 Flash 显著提升，3.5 Flash-Lite 以更高吞吐和更低延迟面向规模化 agentic 工作流。
Together AI精选AI 评分7575 Thinking Machines Lab 发布多模态推理模型 Inkling，Together AI 首日上线
Thinking Machines Lab 发布 Inkling，Together AI 在发布当日将其上线至 Serverless 推理平台。Inkling 是 975B 总参数、40B 活跃参数的混合专家模型，支持 1M 上下文、接受文本、图像和音频输入并输出文本，提供可控推理强度设定，并在科学推理、数学、代码、预测等任务上进行了后训练。
推荐理由：原文给出 Inkling 的参数规模、上下文长度和可控推理设定，开发者可据此评估它在推理深度与 token 开销之间的平衡。
Hugging Face Blog精选AI 评分6565 Thinking Machines 发布 Inkling 多模态开源模型
Inkling 由 Thinking Machines 发布，是一个原生接收图像、文本和音频输入的大规模多模态开源模型，总参数约 1T、活跃参数 41B，支持 1M 上下文窗口。
推荐理由：Inkling 是原生接收图音文三模态的大规模开源模型，提供 BF16 与 NVFP4 双版本及 day-0 支持的推理引擎，读者可据此评估其在多模态推理基准中的相对位置。
Together AI精选AI 评分7373 MiniMax M3 发布：1M 上下文与原生多模态及高效推理实践
MiniMax 发布 M3，Together AI 作为首选云伙伴支持其生产级部署。M3 支持 1M token 上下文、原生多模态与智能体工作流，采用 MiniMax Sparse Attention 实现 prefill 加速 9 倍、decode 加速 15 倍以上。
推荐理由：原文展示了稀疏注意力与多模态预处理的工程细节，读者可据此评估长上下文与多模态场景下的推理优化路径。
Amazon Science精选AI 评分6262 多样化推理轨迹教会大语言模型做出更好决策
亚马逊研究团队在ICLR发表论文，提出集合监督微调（SSFT）与全局分叉策略优化（GFPO），通过为不同推理模式分配全局分叉token来训练模型掌握多样化推理策略，并在推理时选择最优模式。AIME 2025、AIME 2024与LiveCodeBench-v5上Pass@1分别提升6.84、5.37与4.94个百分点，同时改善pass@k多样性且不损害单次准确率。
推荐理由：提出集合监督微调与全局分叉策略优化，在标准推理与编程基准上单次准确率提升5%至7%。
Google DeepMind精选AI 评分8383 Gemini 3.5 Flash 发布：前沿智能与智能体能力
Google DeepMind 发布 Gemini 3.5 Flash，在 Terminal-Bench 2.1（76.2%）、GDPval-AA（1656 Elo）、MCP Atlas（83.6%）和 CharXiv Reasoning（84.2%）上表现领先，输出速度比其他前沿模型快 4 倍。
推荐理由：原文给出 Flash 在多个基准上的具体分数与速度倍数，读者可据此对比其与上一代 Pro 的能力变化。
Berkeley AI Research精选AI 评分7373 自适应并行推理：高效推理扩展的新范式
伯克利研究团队综述了自适应并行推理（APR）范式，提出模型可自主决定何时分解任务、生成多少并行线程以及如何协调。APR 通过特殊控制标记在推理时动态分配串行与并行计算，相比固定并行和多数投票等方法能减少冗余并避免上下文膨胀。文中对比了 Multiverse 等修改推理引擎与 ThreadWeaver 等保持引擎不变的系统设计，并讨论了基于关键路径的并行效率奖励和当前开放问题。
推荐理由：原文梳理了自适应并行推理的范式与推理系统实现差异，读者可据此理解不同并行策略在延迟和准确率上的权衡。
Together AI精选AI 评分7272 DeepSeek-V4 Pro 现已在 Together AI 上可用
DeepSeek-V4 Pro 已在 Together AI 提供 Serverless Inference，模型级支持 1M 上下文，当前部署窗口为 512K，采用 1.6T 参数 MoE 架构，激活 49B 参数。提供 Non-Think、Think High、Think Max 三档推理模式，并针对重复长上下文给出缓存输入定价（$0.20 / 1M tokens）。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Together AI精选AI 评分7070 Together AI 发布分布感知推测解码 DAS，RL 展开加速最高 50%
Together AI 推出分布感知推测解码（DAS）框架，通过自适应后缀树推测器和长度感知调度，在数学和代码 RL 后训练中分别实现 50% 和 25% 的展开时间缩减，且不损失奖励质量。https://www.together.ai/blog/distribution-aware-speculative-decoding
推荐理由：原文给出了无损加速框架和实验数据，读者可据此评估是否在自己的 RL 后训练流程中引入 DAS。
Google DeepMind精选AI 评分8282 Gemma 4 发布：字节级对齐的最强开源模型家族
Google DeepMind 发布 Gemma 4 开源模型家族，提供 Effective 2B、Effective 4B、26B MoE 与 31B Dense 四种规格，31B 在 Arena AI 文本榜位列全球第 3，26B 位列第 6。模型原生支持多模态、函数调用、128K–256K 上下文与 140+ 语言，并采用 Apache 2.0 许可证。
推荐理由：原文给出 Gemma 4 四种规格与 Arena 排名，读者可据此评估本地部署与边缘场景的可行性。
Together AI精选AI 评分7676 Aurora：基于 RL 的自适应推测解码框架发布
Together AI 发布开源框架 Aurora，将推测解码改为由在线推理 trace 持续训练 draft 模型的飞轮。在 Qwen3 和 Llama3 上比已训好的静态 speculator 额外提速 1.25x；域切换后约 10,000 个请求恢复接受长度；混合流量下从零在线训练 acceptance length 达 3.08、吞吐 302.3 tokens/s。代码已开源。
推荐理由：把 speculative decoding 从静态离线训练改成在线自适应飞轮，对已训好的静态 speculator 能再叠加 1.25x 加速。
Together AI精选AI 评分6464 弱模型如何通过分治策略在长上下文任务中表现优异
Together AI 发表 ICLR 2026 论文，提出研究长上下文 LLM 分治框架的理论方法。Planner 重写任务、Worker 并行处理文档分块、Manager 聚合答案，弱模型（如 Llama-3-70B、Qwen-72B）使用该框架可匹配或超越 GPT-4o 单次处理。
推荐理由：弱模型配合分治策略可在长上下文任务中追平 GPT-4o 单次推理，为工程落地提供低成本并行方案。
Mistral AI精选AI 评分6969 Mistral AI 发布 Mistral Small 4
Mistral AI 发布 Mistral Small 4，统一推理、多模态与编码能力，Apache 2.0 开源许可。模型采用 MoE 架构，119B 总参数含 6B 激活参数，支持 256k 上下文，延迟优化下完成时间减少 40%、吞吐优化下每秒请求数提升 3 倍。来源：https://mistral.ai/news/mistral-small-4/
推荐理由：Mistral Small 4 将推理、多模态与编码能力整合进单一开源模型，用户无需在多个专用模型间切换即可处理复杂任务与文档分析。
Together AI精选AI 评分6464 Together AI 在 Day 0 上线 NVIDIA Nemotron 3 Super
Together AI 将 NVIDIA Nemotron 3 Super 带给开发者，模型为 120B 参数（12B 激活）的混合 MoE 架构，支持 1M token 上下文和多 Token 预测，并在 AIME 2025 与 SWE Bench Verified 上达到领先精度。
推荐理由：原文同时给出单GPU部署和1M上下文等具体能力，读者可据此判断它能否直接承载多智能体与大上下文推理工作流。
Together AI精选AI 评分6262 Consistency Diffusion Language Models：推理加速最高 14 倍且质量不下降
Together AI 提出 CDLM 训练方案，让扩散语言模型在块因果掩码下做多 token 最终化并启用精确块级 KV 缓存。实验显示 CDLM–Dream 在 GSM8K-CoT 与 MBPP-Instruct 上分别提速 11.2x 与 14.5x，多数任务精度变化很小。
推荐理由：通过训练让扩散语言模型在块内自回归解码并启用精确 KV 缓存，在保持质量的同时显著减少推理步数与延迟。
Berkeley AI Research精选AI 评分6262 无需 TD 学习的强化学习：分治范式与 Transitive RL
Berkeley AI Research 提出不基于时间差分（TD）学习的强化学习算法，采用分治策略将轨迹递归拆分为子段，以对数级减少 Bellman 递归并缓解误差累积。
推荐理由：提出非TD学习的分治式RL范式，在长 horizon 任务上展示了可扩展性，读者可借此了解值函数学习的新方向。
Mistral AI精选AI 评分7474 Mistral 发布首个推理模型 Magistral
Mistral AI 发布首个推理模型 Magistral，分开源的 Magistral Small（24B）与企业版 Magistral Medium；Magistral Medium 在 AIME2024 得分 73.6%，多数投票 @64 达 90%，Small 分别为 70.7% 与 83.3%。
推荐理由：Mistral 首次推出推理模型 Magistral，分开源与企业两个版本，读者可据此对比其推理能力与部署选择。
Lilian Weng精选AI 评分7676 为什么我们需要思考：测试时计算与思维链综述
Lilian Weng 综述了测试时计算与思维链（CoT）的最新进展，涵盖动机、心理类比、并行采样与顺序修正、RL 训练、忠实性分析与连续空间思考等主题，并讨论了奖励黑客与可扩展性边界。
推荐理由：原文系统梳理了测试时计算与思维链的技术全景，读者可借此理解不同推理增强方法的原理、适用边界与已知风险。