MiniMax M3 发布：1M 上下文与原生多模态及高效推理实践
MiniMax 发布 M3，Together AI 作为首选云伙伴支持其生产级部署。M3 支持 1M token 上下文、原生多模态与智能体工作流，采用 MiniMax Sparse Attention 实现 prefill 加速 9 倍、decode 加速 15 倍以上。
推荐理由：原文展示了稀疏注意力与多模态预处理的工程细节，读者可据此评估长上下文与多模态场景下的推理优化路径。
#推理
#推理
今日 7 条Together AI精选AI 评分7373
Amazon Science精选AI 评分6262 多样化推理轨迹教会大语言模型做出更好决策
亚马逊研究团队在ICLR发表论文，提出集合监督微调（SSFT）与全局分叉策略优化（GFPO），通过为不同推理模式分配全局分叉token来训练模型掌握多样化推理策略，并在推理时选择最优模式。AIME 2025、AIME 2024与LiveCodeBench-v5上Pass@1分别提升6.84、5.37与4.94个百分点，同时改善pass@k多样性且不损害单次准确率。
推荐理由：提出集合监督微调与全局分叉策略优化，在标准推理与编程基准上单次准确率提升5%至7%。
Google DeepMind精选AI 评分8383 Gemini 3.5 Flash 发布：前沿智能与智能体能力
Google DeepMind 发布 Gemini 3.5 Flash，在 Terminal-Bench 2.1（76.2%）、GDPval-AA（1656 Elo）、MCP Atlas（83.6%）和 CharXiv Reasoning（84.2%）上表现领先，输出速度比其他前沿模型快 4 倍。
推荐理由：原文给出 Flash 在多个基准上的具体分数与速度倍数，读者可据此对比其与上一代 Pro 的能力变化。
Berkeley AI Research精选AI 评分7373 自适应并行推理：高效推理扩展的新范式
伯克利研究团队综述了自适应并行推理（APR）范式，提出模型可自主决定何时分解任务、生成多少并行线程以及如何协调。APR 通过特殊控制标记在推理时动态分配串行与并行计算，相比固定并行和多数投票等方法能减少冗余并避免上下文膨胀。文中对比了 Multiverse 等修改推理引擎与 ThreadWeaver 等保持引擎不变的系统设计，并讨论了基于关键路径的并行效率奖励和当前开放问题。
推荐理由：原文梳理了自适应并行推理的范式与推理系统实现差异，读者可据此理解不同并行策略在延迟和准确率上的权衡。
Together AIAI 评分4242 Together AI 高效推理基础设施研究
Together AI 在 NVIDIA GTC 2026 分享其生产级推理优化体系，涵盖 FlashAttention-4、ThunderKittens 及开源自适应推测解码系统 Aurora（最高加速 1.25x）。
Together AI精选AI 评分7272 DeepSeek-V4 Pro 现已在 Together AI 上可用
DeepSeek-V4 Pro 已在 Together AI 提供 Serverless Inference，模型级支持 1M 上下文，当前部署窗口为 512K，采用 1.6T 参数 MoE 架构，激活 49B 参数。提供 Non-Think、Think High、Think Max 三档推理模式，并针对重复长上下文给出缓存输入定价（$0.20 / 1M tokens）。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
Together AI精选AI 评分7070 Together AI 发布分布感知推测解码 DAS，RL 展开加速最高 50%
Together AI 推出分布感知推测解码（DAS）框架，通过自适应后缀树推测器和长度感知调度，在数学和代码 RL 后训练中分别实现 50% 和 25% 的展开时间缩减，且不损失奖励质量。https://www.together.ai/blog/distribution-aware-speculative-decoding
推荐理由：原文给出了无损加速框架和实验数据，读者可据此评估是否在自己的 RL 后训练流程中引入 DAS。
Google ResearchAI 评分5959 ReasoningBank：赋能智能体从经验中学习
Google Research提出ReasoningBank框架，使智能体能从成功与失败经验中蒸馏推理模式并实现测试时自我进化。在WebArena和SWE-Bench-Verified上，基于Gemini-2.5-Flash的ReasoningBank相比无记忆基线分别提升8.3%和4.6%成功率。MaTTS通过并行与串行缩放进一步增强学习效果。
Google ResearchAI 评分5656 设计真实世界的合成数据集：机制设计与从第一原理推理
Google Research 提出 Simula 框架，将合成数据生成重构为机制设计问题，通过推理驱动实现可控制的数据集构建。论文发表于 Transactions on Machine Learning Research，在网络安全、法律推理、数学等五个领域最多生成 512K 数据点，全系统一致优于简单基线，且高质量数据比单纯增加数量更有效。
ScienceDaily · AIAI 评分4444 神经符号AI将能耗降低100倍且提升准确率
研究人员开发出神经符号AI系统，在Tower of Hanoi测试中成功率95%，传统系统仅34%；训练能耗降至标准VLA的1%，运行能耗降至5%，学习时间从一天半缩短至34分钟。该系统结合神经网络与符号推理，减少试错过程，相关研究将在ICRA 2026发表。
Google DeepMind精选AI 评分8282 Gemma 4 发布：字节级对齐的最强开源模型家族
Google DeepMind 发布 Gemma 4 开源模型家族，提供 Effective 2B、Effective 4B、26B MoE 与 31B Dense 四种规格，31B 在 Arena AI 文本榜位列全球第 3，26B 位列第 6。模型原生支持多模态、函数调用、128K–256K 上下文与 140+ 语言，并采用 Apache 2.0 许可证。
推荐理由：原文给出 Gemma 4 四种规格与 Arena 排名，读者可据此评估本地部署与边缘场景的可行性。
Together AI精选AI 评分7676 Aurora：基于 RL 的自适应推测解码框架发布
Together AI 发布开源框架 Aurora，将推测解码改为由在线推理 trace 持续训练 draft 模型的飞轮。在 Qwen3 和 Llama3 上比已训好的静态 speculator 额外提速 1.25x；域切换后约 10,000 个请求恢复接受长度；混合流量下从零在线训练 acceptance length 达 3.08、吞吐 302.3 tokens/s。代码已开源。
推荐理由：把 speculative decoding 从静态离线训练改成在线自适应飞轮，对已训好的静态 speculator 能再叠加 1.25x 加速。
Together AI精选AI 评分6464 弱模型如何通过分治策略在长上下文任务中表现优异
Together AI 发表 ICLR 2026 论文，提出研究长上下文 LLM 分治框架的理论方法。Planner 重写任务、Worker 并行处理文档分块、Manager 聚合答案，弱模型（如 Llama-3-70B、Qwen-72B）使用该框架可匹配或超越 GPT-4o 单次处理。
推荐理由：弱模型配合分治策略可在长上下文任务中追平 GPT-4o 单次推理，为工程落地提供低成本并行方案。
Mistral AI精选AI 评分6969 Mistral AI 发布 Mistral Small 4
Mistral AI 发布 Mistral Small 4，统一推理、多模态与编码能力，Apache 2.0 开源许可。模型采用 MoE 架构，119B 总参数含 6B 激活参数，支持 256k 上下文，延迟优化下完成时间减少 40%、吞吐优化下每秒请求数提升 3 倍。来源：https://mistral.ai/news/mistral-small-4/
推荐理由：Mistral Small 4 将推理、多模态与编码能力整合进单一开源模型，用户无需在多个专用模型间切换即可处理复杂任务与文档分析。
Berkeley AI ResearchAI 评分5050 识别大语言模型中的交互作用：SPEX 与 ProxySPEX 框架
SPEX 与 ProxySPEX 是用于在大规模下识别大语言模型关键交互作用的算法框架，利用稀疏性和低阶性将搜索问题转化为稀疏恢复问题。ProxySPEX 利用层次结构特性，以约 1/10 的消融次数达到与 SPEX 相当的性能。
Together AI精选AI 评分6464 Together AI 在 Day 0 上线 NVIDIA Nemotron 3 Super
Together AI 将 NVIDIA Nemotron 3 Super 带给开发者，模型为 120B 参数（12B 激活）的混合 MoE 架构，支持 1M token 上下文和多 Token 预测，并在 AIME 2025 与 SWE Bench Verified 上达到领先精度。
推荐理由：原文同时给出单GPU部署和1M上下文等具体能力，读者可据此判断它能否直接承载多智能体与大上下文推理工作流。
Together AI精选AI 评分6262 Consistency Diffusion Language Models：推理加速最高 14 倍且质量不下降
Together AI 提出 CDLM 训练方案，让扩散语言模型在块因果掩码下做多 token 最终化并启用精确块级 KV 缓存。实验显示 CDLM–Dream 在 GSM8K-CoT 与 MBPP-Instruct 上分别提速 11.2x 与 14.5x，多数任务精度变化很小。
推荐理由：通过训练让扩散语言模型在块内自回归解码并启用精确 KV 缓存，在保持质量的同时显著减少推理步数与延迟。
ScienceDaily · AIAI 评分3333 AI 自我对话学习更快更聪明
OIST 研究发现，让 AI 在训练中进行内部"自言自语"并结合短期记忆，能提升多任务灵活性与整体表现。新方法在序列反转、模式重建等复杂任务上增益明显，且可用稀疏数据训练，无需大规模数据集。研究团队计划将实验拓展至真实动态环境，探索家庭与农业机器人应用。
Sebastian RaschkaAI 评分3131 Categories of Inference-Time Scaling for Improved LLM Reasoning
summary_zh: 推理时缩放（inference-time scaling）已成为提升部署 LLM 答案质量与准确率的有效手段，核心思路是在推理阶段投入更多计算与时间。
Sebastian RaschkaAI 评分5252 2025 年 LLM 现状：进展、问题与预测
Sebastian Raschka 回顾 2025 年大语言模型关键发展，指出 RLVR 与 GRPO 主导了后训练范式，推理模型在数学和代码领域已接近金牌水平，同时警告基准刷榜泡沫。他预测 2026 年 RLVR 将扩展至更多领域，推理时缩放和持续学习将更受关注，并认为私有数据与领域适配将成为下一阶段竞争焦点。
Sebastian RaschkaAI 评分1212 LLM Research Papers: The 2025 List (July to December)
Sebastian Raschka 整理了 2025 年 7 月至 12 月的 LLM 研究论文列表，涵盖推理模型、RLHF、推理时扩展、架构、高效训练、多模态与数据集等类别。该列表为其 Substack 付费订阅者的附加内容，正文仅浏览摘要、少数全文精读。原文未给出具体模型、参数、分数或速度倍数。
Sebastian RaschkaAI 评分7272 DeepSeek V3 到 V3.2：架构、稀疏注意力与 RL 更新
Sebastian Raschka 分析了 DeepSeek V3.2 的架构与训练更新，包括引入 DeepSeek Sparse Attention（DSA）提升长上下文效率、在 RLVR 基础上加入自验证与自精炼以改进数学推理，以及 GRPO 的多项稳定性改进。V3.2 保留与 V3 相同的 MoE+MLA 架构，并在推理任务上接近 GPT-5 与 Gemini 3.0 Pro 水平。
Sebastian RaschkaAI 评分4444 Beyond Standard LLMs：解码器 Transformer 之外的大模型架构替代方案
summary_zh: 文章梳理了近期出现的大语言模型非主流架构替代方案，包括文本扩散模型与线性注意力混合架构等。
Berkeley AI Research精选AI 评分6262 无需 TD 学习的强化学习：分治范式与 Transitive RL
Berkeley AI Research 提出不基于时间差分（TD）学习的强化学习算法，采用分治策略将轨迹递归拆分为子段，以对数级减少 Bellman 递归并缓解误差累积。
推荐理由：提出非TD学习的分治式RL范式，在长 horizon 任务上展示了可扩展性，读者可借此了解值函数学习的新方向。
Sebastian RaschkaAI 评分6060 OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 开源权重模型
OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 两款开源权重模型，是自 GPT-2 以来首次开放大权重模型。模型采用 MoE、SwiGLU、GQA、滑动窗口注意力和 RMSNorm 等现代设计，并支持 MXFP4 量化以在单卡运行。两款模型均为推理模型，支持低/中/高推理强度调节，并在多个基准上接近 OpenAI 自有闭源模型。
Mistral AI精选AI 评分7474 Mistral 发布首个推理模型 Magistral
Mistral AI 发布首个推理模型 Magistral，分开源的 Magistral Small（24B）与企业版 Magistral Medium；Magistral Medium 在 AIME2024 得分 73.6%，多数投票 @64 达 90%，Small 分别为 70.7% 与 83.3%。
推荐理由：Mistral 首次推出推理模型 Magistral，分开源与企业两个版本，读者可据此对比其推理能力与部署选择。
Lilian Weng精选AI 评分7676 为什么我们需要思考：测试时计算与思维链综述
Lilian Weng 综述了测试时计算与思维链（CoT）的最新进展，涵盖动机、心理类比、并行采样与顺序修正、RL 训练、忠实性分析与连续空间思考等主题，并讨论了奖励黑客与可扩展性边界。
推荐理由：原文系统梳理了测试时计算与思维链的技术全景，读者可借此理解不同推理增强方法的原理、适用边界与已知风险。
The GradientAI 评分5858 Neural Algorithmic Reasoning：Petar Veličković 谈用神经网络捕获经典计算
Petar Veličković 讨论如何将经典算法与数据结构捕获到深度神经网络中，并提出算法对齐（algorithmic alignment）作为提升泛化与可解释性的设计原则。文章梳理了从学习执行图算法、CLRS-30 基准到神经算法推理（NAR）蓝图的进展，并指出将经典算法应用于真实世界时面临输入工程与算法瓶颈等挑战。
Lilian WengAI 评分3636 深度神经网络是否严重过拟合？
深度神经网络参数量大且训练误差可趋近于零，却仍能泛化到样本外数据，引发对其是否严重过拟合的讨论。文章从奥卡姆剃刀、最小描述长度（MDL）原则和 Kolmogorov 复杂度等经典理论出发，探讨模型复杂度与泛化之间的关系。理解深度神经网络的泛化机制，有助于为为什么 DNN 能泛化提供思路。