跳到正文

#部署/工程

今日 67 条
5月28日周四
  1. Amazon Science79

    AWS数据中心网络用扁平化架构替代胖树架构

    Amazon Science博客介绍AWS在数据中心部署的首个可扩展扁平网络RNG,采用准随机拓扑和ShuffleBox光互连设备,相比胖树架构减少69%路由器、吞吐提升33%、网络设备能耗降低40%。该网络于2024年底在爱尔兰上线,2026年4月成为AWS全球新建数据中心默认架构。

    推荐理由:提供了可量化的网络性能提升和部署数据,读者可据此评估扁平化架构在云基础设施中的实际收益。

  2. Google Research62

    Google Research 提出零信任聚合实现隐私分析

    Google Research 发布零信任聚合协议,结合格密码学单次提交与可信执行环境证明,用于 Android SafetyCore 等隐私保护场景。新协议允许设备单条消息完成加密聚合,委员会机制辅助解密并注入差分隐私噪声,同时通过 TEE 证明确保协议按公开代码正确执行。

    推荐理由:零信任架构将单次消息加密聚合与TEE证明结合,为大规模隐私分析提供了可验证的多层安全方案。

5月27日周三
  1. Mistral AI42

    Mistral 发布 physics AI:工程加速的基础

    Mistral 发布 physics AI,将工程仿真从数小时/周缩短到秒级单 GPU 前向传播。整合 Emmi AI 作为企业解决方案中新基础能力,合作伙伴包括 ASML、Airbus、Safran 和 Siemens Energy。覆盖产品设计、工装工艺设计和实时数字孪生三大场景,不是替代传统求解器,而是大幅提升设计迭代吞吐量。

5月20日周三
  1. Google Research58

    ERA发表Nature论文并推动计算发现

    Google在Nature发表ERA论文并将其作为工具开放,ERA使用Gemini通过树搜索优化科学代码,在基因组学、公共卫生等六类基准上达到专家级性能。ERA已应用于八个科学问题的研究中,涵盖流行病预测、CO2监测、径流预报、太阳能优化和零售预测,并作为Computational Discovery的核心组件通过Gemini for Science逐步开放。

5月19日周二
  1. Together AI73

    Together AI 发布编码智能体推理基准测试

    Together AI 推出面向编码智能体的规模化推理基准,测试长提示(45k–200k token)、高并发与短输出(平均 450 token)场景下的 TPM、TPS 与 p50 TTFT。

    推荐理由:原文给出了一套高并发长上下文编码智能体的基准测试方法与退化曲线,读者可据此评估自研或商用引擎在真实负载下的 TTFT 与吞吐表现。

5月17日周日
5月16日周六
5月15日周五
5月14日周四
  1. Kubernetes AI73

    Kubernetes v1.36 推进工作负载感知调度

    Kubernetes v1.36 将 Workload API 改为静态模板,并引入独立的 PodGroup API 与专用的 PodGroup 调度周期,实现原子级工作负载调度。同时推出拓扑感知调度、工作负载感知抢占、PodGroup 的 DRA ResourceClaim 支持,以及 Job 控制器与新一代 API 的首批集成。所有功能均以 Alpha 特性提供,需启用对应的功能开关。

    推荐理由:原文给出了架构升级和多项新功能,读者可以据此评估它对大规模 AI 训练与批处理工作流的实际影响。

5月13日周三
  1. Kubernetes AI60

    Kubernetes v1.36:PSI 指标正式毕业至 GA

    Kubernetes v1.36 将节点、Pod 和容器层级的 PSI 压力指标升级为稳定可用(GA),不再需要功能门控。Kubelet 会先检测内核是否支持 PSI 再上报,避免旧版本在内核未启用时输出误导性零值。

    推荐理由:原文给出资源占用实测数据,读者可据此判断在生产集群启用 PSI 监控的额外开销是否在可接受范围内。

5月11日周一
5月8日周五
5月7日周四
5月6日周三
5月5日周二
  1. Kubernetes AI67

    Kubernetes v1.36 引入基于清单的准入控制

    Kubernetes v1.36 引入 manifest-based admission control alpha 特性,允许通过 API server 启动时加载磁盘上的策略文件,在集群引导阶段即生效并防止被删除。

    推荐理由:原文给出了 manifest-based admission control 的启动加载机制和保护边界,读者可以据此评估它对集群引导阶段安全策略可用性的实际改善。

5月4日周一
5月2日周六
5月1日周五
4月30日周四
4月29日周三
  1. Together AI72

    DeepSeek-V4 Pro 现已在 Together AI 上可用

    DeepSeek-V4 Pro 已在 Together AI 提供 Serverless Inference,模型级支持 1M 上下文,当前部署窗口为 512K,采用 1.6T 参数 MoE 架构,激活 49B 参数。提供 Non-Think、Think High、Think Max 三档推理模式,并针对重复长上下文给出缓存输入定价($0.20 / 1M tokens)。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

4月28日周二
  1. Together AI60

    Together AI 在 Day 0 推出 NVIDIA Nemotron 3 Nano Omni

    NVIDIA Nemotron 3 Nano Omni 现已上线 Together AI 平台,这是一款支持视频、图像、音频和语言的多模态开放模型。其 30B A3B MoE 架构每次激活约 3B 参数,支持最多 256K tokens 的共享多模态上下文,并在单一推理循环中完成跨模态推理。

    推荐理由:单一模型统一多模态推理降低了多模型拼接的复杂度,对构建多模态智能体系统的开发者具有直接参考价值。

4月27日周一
4月23日周四
  1. Weaviate Blog62

    Weaviate 1.37 发布

    Weaviate v1.37 已开源并上线云服务,新增 MCP Server、可扩展分词器、MMR 多样性搜索、查询性能分析、增量备份、Gemini 音频支持和 BlobHash 属性类型。MCP Server 让 LLM 和 IDE 可原生对接数据库;增量备份通过引用未变更数据块缩小备份体积;BlobHash 在向量化后仅持久化 SHA-256 哈希。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

4月22日周三
  1. Google Research59

    ReasoningBank:赋能智能体从经验中学习

    Google Research提出ReasoningBank框架,使智能体能从成功与失败经验中蒸馏推理模式并实现测试时自我进化。在WebArena和SWE-Bench-Verified上,基于Gemini-2.5-Flash的ReasoningBank相比无记忆基线分别提升8.3%和4.6%成功率。MaTTS通过并行与串行缩放进一步增强学习效果。

4月21日周二
4月7日周二
  1. Together AI28

    什么是 AI Native Cloud?

    summary_zh: AI Native Cloud 是为 AI 原生公司量身打造的新一代云基础设施,覆盖从预训练、微调到推理的完整生命周期。它以 GPU 加速、NVLink/RDMA 高速互联和统一软件栈为核心,强调研究到生产的快速转化、推理速度与成本优化,以及可按需扩展的 GPU 集群能力。

4月1日周三
  1. Together AI44

    Together AI 内核团队如何用 FlashAttention 和 ThunderKittens 重塑 AI 基础设施

    Together AI 的内核团队在 2022 年阵亡将士纪念日假期发布 FlashAttention,实现 2–3 倍加速。2025 年 3 月团队约 15 人,用一周时间基于 ThunderKittens 在 Blackwell 上开发出比 cuBLAS 快 2 倍的 FP4/FP8 GEMM 内核。团队采用学术与产业协同模式,成员来自 UCSD、普林斯顿、Caltech 等。

3月31日周二
  1. Mistral AI61

    Spaces:为人类与 AI 代理打造的 CLI

    Mistral AI 发布 Spaces CLI,为人类开发者和 AI 智能体提供统一命令行接口。文章提出交互输入应有 flag 等价、状态显式化、插件可自省等原则,并指出生成 context.json 和 AGENTS.md 可显著减少智能体错误。从单提示到部署上线仅需不到 10 分钟。

    推荐理由:原文系统阐述了让 CLI 同时服务人类与 AI 智能体的设计原则,涵盖 flag 等价、显式状态、插件化等模式,读者可据此构建更可组合、可脚本化的开发者工具。

3月30日周一
  1. Ollama Blog76

    Ollama 在 Apple Silicon 上通过 MLX 加速预览

    Ollama 0.19 预览版在 Apple Silicon 上基于 MLX 框架加速,M5/M5 Pro/M5 Max 利用新 GPU 神经加速器提升 TTFT 和生成速度。引入 NVIDIA NVFP4 格式支持,并升级缓存以提高响应效率。

    推荐理由:Apple Silicon 上运行 Ollama 的速度变化和 NVFP4 支持,可帮助用户评估本地推理的性能边界。

3月25日周三
  1. Google Research67

    Google 发布 Vibe Coding XR,结合 Gemini 与 XR Blocks 加速原生 XR 应用原型

    Google Research 发布 Vibe Coding XR 工作流,将 Gemini 与基于 WebXR、three.js、LiteRT.js 的 XR Blocks 框架结合,把自然语言提示转为具备物理感知的可运行 Android XR 应用,整个过程不到 60 秒。

    推荐理由:原文给出了从自然语言到可运行 Android XR 应用的端到端流程与实测基线,读者可据此判断自身原型开发是否值得接入。