Together AI 与 Pearl Research Labs 合作降低 AI 推理成本
Together AI 与 Pearl Research Labs 合作推出 Gemma-4-31B-it-pearl 推理端点,价格折扣超 25%,由 Pearl 加密货币收益对冲。Pearl Network 通过 Proof of Useful Work 在推理和训练过程中并行生成 ¶PRL 代币,降低 LLM 每 token 价格。
Together AI 与 Pearl Research Labs 合作推出 Gemma-4-31B-it-pearl 推理端点,价格折扣超 25%,由 Pearl 加密货币收益对冲。Pearl Network 通过 Proof of Useful Work 在推理和训练过程中并行生成 ¶PRL 代币,降低 LLM 每 token 价格。
伯克利研究团队综述了自适应并行推理(APR)范式,提出模型可自主决定何时分解任务、生成多少并行线程以及如何协调。APR 通过特殊控制标记在推理时动态分配串行与并行计算,相比固定并行和多数投票等方法能减少冗余并避免上下文膨胀。文中对比了 Multiverse 等修改推理引擎与 ThreadWeaver 等保持引擎不变的系统设计,并讨论了基于关键路径的并行效率奖励和当前开放问题。
推荐理由:原文梳理了自适应并行推理的范式与推理系统实现差异,读者可据此理解不同并行策略在延迟和准确率上的权衡。
summary_zh: 使用 Goose CLI Agent 配合 Together 的 dedicated containers skill,从 HuggingFace 拉取 Netflix 刚发布的 void-model,在单次会话内完成容器配置并部署到 Together DCI 基础设施,实现发布当天即可运行。
Google DeepMind 发布 AlphaEvolve,一款由 Gemini 驱动的编程智能体,用于设计高级算法并已在数学、计算机科学和 Google 基础设施中部署。
推荐理由:原文展示了 AlphaEvolve 在数学、量子物理、基础设施和商业场景中的具体提升,读者可据此评估它作为通用算法设计智能体的实际边界。
Together AI 在 NVIDIA GTC 2026 分享其生产级推理优化体系,涵盖 FlashAttention-4、ThunderKittens 及开源自适应推测解码系统 Aurora(最高加速 1.25x)。
summary_zh: Google Research 强调开源软件与开放数据集是现代科学的驱动力,通过与 UCSC Genomics Institute、Janelia、ISTA、CSIRO、AIIMS 及 Human Pangenome Research Consortium 等机构合作推动科学进步。
Together AI 与 Adaption 合作,让 Adaptive Data 用户可直接在 Adaption 平台优化数据集后执行 Together Fine-Tuning。
Google 发布 ERA 辅助科研的预印本,展示其在流行病学、宇宙学、气候与神经科学四个领域的应用。在流感、COVID-19 和 RSV 预测中,ERA 达到或接近 CDC 顶级预测水平;与 Gemini Deep Think 结合推导出宇宙弦引力辐射的统一公式;利用 GOES East 卫星数据以 10 分钟间隔反演柱平均 CO2;在斑马鱼神经回路中发现可泛化的机制性解。
推荐理由:四类科学场景展示了 ERA 与 LLM 协作解决开放问题的潜力,为 AI 辅助科研提供可迁移方法。
NVIDIA Nemotron 3 Nano Omni 现已上线 Together AI 平台,这是一款支持视频、图像、音频和语言的多模态开放模型。其 30B A3B MoE 架构每次激活约 3B 参数,支持最多 256K tokens 的共享多模态上下文,并在单一推理循环中完成跨模态推理。
推荐理由:单一模型统一多模态推理降低了多模型拼接的复杂度,对构建多模态智能体系统的开发者具有直接参考价值。
Mistral AI 发布 Workflows 进入公开预览,这是面向企业 AI 的编排层,基于 Temporal 引擎提供容错执行、可观测性与人工审批。开发者用 Python 编写工作流,通过 Le Chat 触发,Studio 记录全量执行轨迹;控制平面在 Mistral,Worker 部署在用户自有 Kubernetes 环境,支持云、本地或混合部署。
summary_zh: 多租户 GPU 集群让多个团队共享同一硬件,通过硬配额、预订窗口和调度护栏实现租户隔离,防止跨团队资源争抢。平台需提供 pooled capacity、tenant isolation 和 self-serve access 三项核心能力,并支持按租户实际用量直接计费。
summary_zh: 作者分享理解 LLM 架构的工作流:先看官方技术报告,权重开源的模型则通过 Hugging Face Model Hub 的 config 文件和 Python transformers 参考实现来确认架构细节。
Google Research发布MoGen模型,通过点云流匹配生成合成神经元形态,用于训练PATHFINDER重建模型。加入10%合成数据后,鼠轴突重建错误率降低4.4%,主要减少合并错误,在全鼠脑规模上相当于节省157人年人工校对。MoGen及物种特异性模型已开源。
推荐理由:用合成神经元训练PATHFINDER,将重建错误率降低4.4%,在全鼠脑规模上相当于节省157人年校对工作。
Google DeepMind 发布 Gemma 4 开源模型家族,提供 Effective 2B、Effective 4B、26B MoE 与 31B Dense 四种规格,31B 在 Arena AI 文本榜位列全球第 3,26B 位列第 6。模型原生支持多模态、函数调用、128K–256K 上下文与 140+ 语言,并采用 Apache 2.0 许可证。
推荐理由:原文给出 Gemma 4 四种规格与 Arena 排名,读者可据此评估本地部署与边缘场景的可行性。
Together AI 的内核团队在 2022 年阵亡将士纪念日假期发布 FlashAttention,实现 2–3 倍加速。2025 年 3 月团队约 15 人,用一周时间基于 ThunderKittens 在 Blackwell 上开发出比 cuBLAS 快 2 倍的 FP4/FP8 GEMM 内核。团队采用学术与产业协同模式,成员来自 UCSD、普林斯顿、Caltech 等。
Together AI 扩展 Together Fine-Tuning,原生支持工具调用、推理与视觉语言模型微调,并升级训练栈以支持 100B+ 参数模型、最高 6 倍吞吐提升和 100GB 数据集。
推荐理由:原文给出工具调用、推理与视觉模型微调的新支持,以及训练吞吐和数据集上限提升,读者可据此评估自身多轮工作流的迭代成本与可靠性改善空间。
Mistral AI 发布 Mistral Small 4,统一推理、多模态与编码能力,Apache 2.0 开源许可。模型采用 MoE 架构,119B 总参数含 6B 激活参数,支持 256k 上下文,延迟优化下完成时间减少 40%、吞吐优化下每秒请求数提升 3 倍。来源:https://mistral.ai/news/mistral-small-4/
推荐理由:Mistral Small 4 将推理、多模态与编码能力整合进单一开源模型,用户无需在多个专用模型间切换即可处理复杂任务与文档分析。
Mistral AI 作为创始成员加入 NVIDIA Nemotron Coalition,与 NVIDIA 共同开发前沿开源基础模型, Mistral Small 4 今日发布。
Mistral 发布 Leanstral,首个面向 Lean 4 的开源代码智能体,在 FLTEval 基准上以 6B 参数超越多个更大开源模型。它通过 Mistral Vibe 集成、支持 MCP,提供免费 API 和 Apache 2.0 权重;pass@2 得分 26.3 仅需 $36,而 Sonnet 4.6 需 $549。
Google Research 发布 Groundsource 方法,利用 Gemini 从全球新闻报道中提取洪水事件,构建了覆盖 150 多个国家、260 万条记录的开放数据集。方法结合 Google Read Aloud 和 Cloud Translation API 进行多语言文本提取与标准化,并通过 Gemini LLM 完成分类、时间推理和空间定位验证。
推荐理由:该方法将非结构化新闻转化为结构化灾害数据,为全球洪水预测提供了新的数据基线。
基于 Mistral 开源编码助手 Vibe 构建了一个自主代理,能自动读取 Rails 源文件并生成或改进 RSpec 测试,在 CI/CD 流水线中无人干预运行。通过 AGENTS.md 上下文工程和按文件类型分类的 SKILLS 文件,质量分数从 0.68 提升到 0.74。该代理并行处理多个文件,并自动管理 factories 和 fixtures 等共享上下文,避免测试遗漏。
Together AI 在首届 AI Native Conf 发布七项更新,涵盖 FlashAttention-4、Together Megakernel、together.compile、Reinforcement Learning API、ThunderAgent、ATLAS-2 与 CPD。
推荐理由:七项发布覆盖内核、强化学习与推理优化,读者可据此评估 Together 在生产部署与训练加速上的最新能力边界。
summary_zh: Together AI 发布了全新品牌视觉,由 Pentagram 设计公司打造,表达开放、连接与共享规模的理念。新视觉围绕 AI 全生命周期整合开源创新、前沿系统研究与开发者体验。
Together AI 研究团队通过主题中性的开放种子提示(如 "Actually," "Let's think step by step," 或仅标点)移除 chat 模板与系统提示,研究 LLM 的近无约束生成行为。
推荐理由:在无主题提示下观察模型原始生成分布,揭示了各模型族稳定的语义偏好与退化模式,为审计和指纹识别提供了新视角。
Vibe coding 指大量生成复杂 AI 代码且不打算让人阅读,已对科技行业产生类似赌博的"dark flow"效应。资深开发者 Armin Ronacher 描述自己两个月过度提示 Claude、浪费 token,建了很多最终未使用或无法正常工作的工具,称其为"agent psychosis"。
Sebastian Raschka 回顾 2025 年大语言模型关键发展,指出 RLVR 与 GRPO 主导了后训练范式,推理模型在数学和代码领域已接近金牌水平,同时警告基准刷榜泡沫。他预测 2026 年 RLVR 将扩展至更多领域,推理时缩放和持续学习将更受关注,并认为私有数据与领域适配将成为下一阶段竞争焦点。
Sebastian Raschka 整理了 2025 年 7 月至 12 月的 LLM 研究论文列表,涵盖推理模型、RLHF、推理时扩展、架构、高效训练、多模态与数据集等类别。该列表为其 Substack 付费订阅者的附加内容,正文仅浏览摘要、少数全文精读。原文未给出具体模型、参数、分数或速度倍数。
Sebastian Raschka 分析了 DeepSeek V3.2 的架构与训练更新,包括引入 DeepSeek Sparse Attention(DSA)提升长上下文效率、在 RLVR 基础上加入自验证与自精炼以改进数学推理,以及 GRPO 的多项稳定性改进。V3.2 保留与 V3 相同的 MoE+MLA 架构,并在推理任务上接近 GPT-5 与 Gemini 3.0 Pro 水平。
Mistral 3 包含 Ministral 3(3B/8B/14B)与 Mistral Large 3(41B 活跃/675B 总参数稀疏 MoE),全部 Apache 2.0 开源。
推荐理由:Mistral 3 同时覆盖从边缘到数据中心的稠密与稀疏 MoE 模型,并给出 NVFP4 checkpoint 与多平台部署入口,读者可据此评估自托管与云端方案的成本与性能取舍。
Mistral AI 宣布与 SAP 合作打造完全主权 AI 栈,集成模型到 SAP AI Foundation 并共同开发行业解决方案;同时与 Helsing 加速开发视觉-语言-动作模型用于国防安全应用。Mistral 将扩大德国团队、近期开设德国办公室,践行让欧洲拥有并掌控 AI 的创始原则。
summary_zh: 文章梳理了近期出现的大语言模型非主流架构替代方案,包括文本扩散模型与线性注意力混合架构等。
summary_zh: Qwen3 是 2025 年最受欢迎的开权大模型家族之一,0.6B 到 480B MoE 多种规格,Apache 2.0 协议无额外限制。
summary_zh: Pixtral-12B 经过 LoRA 微调后在卫星图像分类任务上显著优于基础模型,在 AID 数据集(8000 训练 / 2000 测试)上减少了基础模型的幻觉和模糊类别误判。
Mistral 发布 Codestral 25.08,并推出包含 Codestral Embed、Devstral 与 Mistral Code 插件的企业级编程栈,支持云、VPC 与本地部署。
推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
Mistral AI 与 Carbone 4、ADEME 合作完成行业首个 LLM 全生命周期分析(LCA),并由 Resilio 和 Hubblo 同行评审,覆盖温室气体排放、水资源消耗与资源枯竭三类指标。
Mistral AI 推出 AI for Citizens 计划,帮助各国政府与公共机构按本地需求部署 AI,改造公共服务。该计划已与法国、卢森堡、新加坡、荷兰、英格兰、瑞士等国的政府、国防部门、公共机构及教育机构合作。方案提供自托管、本地 AI 数据中心、SaaS 与 serverless API 等部署选择,并支持数据主权。
Mistral AI 发布首个推理模型 Magistral,分开源的 Magistral Small(24B)与企业版 Magistral Medium;Magistral Medium 在 AIME2024 得分 73.6%,多数投票 @64 达 90%,Small 分别为 70.7% 与 83.3%。
推荐理由:Mistral 首次推出推理模型 Magistral,分开源与企业两个版本,读者可据此对比其推理能力与部署选择。
Devstral 是 Mistral AI 与 All Hands AI 合作开发的开源智能体编程模型,在 SWE-Bench Verified 上得分 46.8%,领先开源 SoTA 超过 6 个百分点。
推荐理由:Devstral以46.8%的SWE-Bench Verified成绩超越多数闭源模型,且可本地部署,读者可据此评估开源方案在真实软件工程任务中的可行性。
Mistral 发布 Mistral Medium 3,宣称以显著更低成本提供接近前沿大模型的性能。模型在编码与 STEM 任务上接近更大更慢的竞品,API 定价为输入 $0.4 / 输出 $2 每百万 token,可在四卡及以上自托管环境部署。
推荐理由:原文给出性能与成本对比,读者可据此判断它对现有开源大模型格局的影响。