跳到正文

#部署/工程

今日 67 条
9月15日周二
9月14日周一
  1. MIT News · AI44

    MIT衍生公司Atlas Building Composites将塑料废料转化为耐用建筑材料

    MIT衍生公司Atlas Building Composites开发AI驱动机器人制造平台,将一次性塑料转化为房屋地基、甲板、屋架等建筑构件。其无水塑料回收技术与大型复合增材制造技术已用于支撑谷仓、码头,并近期为美国陆军工程兵团提供回收复合屋架,在马萨诸塞州湿地建造40英尺桥梁。大型复合屋架可在13分钟内打印完成,承重超过4000磅;每个Atlas工厂单元每天可生产约一栋小型房屋的结构框架材料。

  2. MIT News · AI62

    MIT提出HardFlow方法使生成AI适用于安全关键场景

    MIT研究人员提出HardFlow算法,通过在生成过程末端而非中间步骤强制硬约束,使扩散模型和流匹配模型在机器人路径规划等安全关键场景中既满足严格约束又提升解质量。实验表明HardFlow在机器人操作、迷宫导航和文本引导图像编辑中实现完美约束满足,并在解质量上持续超越基线,计算时间与多数方法相当或更低。

    推荐理由:该方法在部署时即可对预训练生成模型施加硬约束而不重新训练,为机器人等安全关键场景提供了可即插即用的改进路径。

9月12日周六
9月11日周五
  1. Together AI69

    Together AI 扩展微调服务:新增模型、实时指标与更细粒度控制

    Together AI 升级微调平台,新增 GLM-5.3、Kimi K2.7、DeepSeek-V4-Flash、Qwen 3.8-27B、Gemma 4 等开源模型支持,并引入实验实时追踪、Expert LoRA、早停、任意批量大小、样本权重、预飞行校验与打包控制等功能。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  2. Kubernetes AI62

    Kubernetes v1.37 调度器支持原地 Pod 扩容抢占(Alpha)

    Kubernetes v1.37 引入 InPlacePodVerticalScalingSchedulerPreemption 特性门控,允许调度器为原地扩容被 deferred 的 Pod 主动抢占同节点低优先级工作负载。原文给出从创建 kind 集群、配置 PriorityClass、触发扩容到观察 Preempted 事件的完整演示步骤。

    推荐理由:原文给出了调度器主动抢占低优先级工作负载的机制,读者可以据此评估集群密度与关键服务响应性的平衡。

9月10日周四
  1. Mistral AI39

    Cloudera 与 Mistral 达成合作,为企业数据带来专业化主权智能

    Mistral 与 Cloudera 达成合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持在私有云、公有云、本地及完全气隙环境部署推理并保持控制。企业还可在受控环境用专有数据训练自有模型并保留数据与智能所有权,面向主权 AI 需求。Mistral 提到 Cloudera 平台承载 30 exabytes 客户管理数据。

  2. NVIDIA Developer · AI23

    NVIDIA 用 Nemotron 和 Palantir Foundry 将供应链专长编码为从晶圆到首 Token 的可量化流程

    NVIDIA 将全球供应链绩效定义为从 wafer-out 到 first token 的两个阶段:Time-to-rack(硅片离开 fab 到系统上架)和 Time-to-token(之后的供电、散热、网络与软件栈)。文章展示如何用 Nemotron 与 Palantir Foundry 把供应链专家知识编码为可量化、可优化的流程。

  3. Together AI60

    ThunderKittens 在 NVIDIA Vera Rubin NVL72 上新增 NVFP4/FP8 GEMM 支持

    Together AI 内核团队在 Vera Rubin NVL72 上扩展 ThunderKittens,支持 NVFP4 与 FP8 GEMM,并通过双 K 步长、独占张量内存、更大共享内存、B 侧收集器与 Early A release 等优化,将 NVFP4 推至超 22 PFLOPS,与 cuBLAS 和 CuTE DSL 竞争。

    推荐理由:原文给出了在 Vera Rubin 上优化 NVFP4/FP8 GEMM 的具体方法与性能数据,读者可迁移这些调优思路到自家 Rubin 部署。

  4. Hugging Face Blog67

    Gradio Workflow 重建 AUTOMATIC1111 工作流

    Hugging Face 用 Gradio Workflow 重建了 AUTOMATIC1111 的核心功能,形成包含 11 条媒体管道、73 个节点的单一工作流画布,涵盖文生图、高分辨率修复、图生图、提示词矩阵、VLM 问答、检测到 inpaint 掩码、ControlNet 风格标注器、背景去除、PNG Info 读取和图生视频。

    推荐理由:原文展示了用同一套画布串联多种模型与媒体管道的构建方式,读者可据此评估 gr.Workflow 在多模态工作流中的可复用性。

  5. Together AI69

    Together AI 推出抢占式计算:相同算力半价

    Together AI 公开预览抢占式计算节点,算力与标准节点相同,按 sub-hourly 计费为按需价的 50%。回收时有 5 分钟 drain 窗口,节点标注 together.ai/compute-class=preemptible,适合可 checkpoint 或重试的短实验、推理突发和批处理任务。

    推荐理由:原文给出了成本变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  6. Hugging Face Blog63

    HF Jobs 上用 LoRA 实现异步 GRPO 训练:一个存储桶、一个代理、无需 NCCL

    TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 适配器仅同步功能,结合 HF Jobs Storage Bucket 挂载,使训练与推理可运行在独立机器上,无需 NCCL。五次实验将 500 步训练从 3h27m 优化至 53min,通过 token 预算批处理和提升并发请求数将瓶颈从训练端转移到生成端。

    推荐理由:通过LoRA适配器仅同步加存储桶挂载,训练与推理可部署在独立HF Jobs上无需NCCL,五次实验将500步训练从3小时27分压缩至53分钟。

9月9日周三
  1. Together AI64

    开源 AI 栈:模型、推理、网关与 Harness 的选型与组合指南

    Together AI 发布开源 AI 栈指南,将栈分为模型、推理、网关与路由器、Harness、工具与上下文管理五层。推荐同时使用大模型(如 Kimi K3,1.8T 总参数)与小模型(如 GLM 5.3 Flash,320B 总参数)处理不同复杂度的任务,并可通过 OpenRouter、Vercel AI Gateway 或 LiteLLM 路由多提供商。

    推荐理由:原文分层拆解开源 AI 栈各层组件与选型思路,开发者可按需组合模型、网关与工具。

  2. Kubernetes AI60

    Kubernetes v1.37 推进 Workload-Aware Scheduling

    Kubernetes v1.37 将 Workload/PodGroup API、gang scheduling 与 Workload-Aware Preemption 升级至 Beta,并引入支持多层拓扑约束与抢占策略的 CompositePodGroup API。

    推荐理由:核心 WAS API 升级到 Beta 并引入 CompositePodGroup,用户可据此评估分层调度和抢占策略对分布式训练与推理工作流的影响。

9月8日周二
9月5日周六
9月4日周五
9月3日周四
  1. Google DeepMind65

    Google DeepMind 发布 WeatherNext 3,全球天气 AI 模型分辨率提升至 5 公里并实现每小时更新

    Google DeepMind 发布 WeatherNext 3,改用实时卫星观测数据直接训练全球天气 AI 模型。模型以 5 公里分辨率、每小时更新生成预报,降水预报 CRPS 最高较 IMERG 提升 60%,并已集成至 Search、Gemini、Maps 及 Google Cloud 平台。

    推荐理由:WeatherNext 3 摒弃传统数值天气预报训练数据,改为直接使用实时卫星观测数据,将全球分辨率提升至5公里并实现每小时更新,降水预报CRPS最高改善60%。

  2. Hugging Face Blog61

    NeoMME高效多模态原生多语言编码器

    NeoMME是260M和800M多模态原生多语言编码器,单塔双向Transformer从零训练,无需独立视觉塔或因果语言模型。260M模型在ViDoRe v3上达0.523 nDCG@10,超越同参数模型,编码速度约2倍于ColModernVBERT。通过分层池化和非对称量化,late-interaction存储从1.5MB压缩至6kB/页,压缩255倍且保留95%以上检索质量。

    推荐理由:单塔多模态编码器以260M参数在ViDoRe v3上超越更大模型,并通过分层池化和非对称量化将多向量检索存储压缩255倍同时保留95%以上质量。

  3. Kubernetes AI65

    Kubernetes v1.37:HPA 支持将工作负载缩容至零

    Kubernetes v1.37 将 HPA 缩容至零功能从 Alpha 升级为 Beta 并默认启用,可基于对象指标或外部指标将工作负载缩至零再恢复。需配置外部指标适配器(如 Prometheus Adapter),并使用 ScaledToZero 状态区分自动缩容与手动暂停;升级前需确保 apiserver 与 controller-manager 均支持该功能。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。