跳到正文

#部署/工程

今日 34 条
9月14日周一
  1. MIT News · AI44

    MIT衍生公司Atlas Building Composites将塑料废料转化为耐用建筑材料

    MIT衍生公司Atlas Building Composites开发AI驱动机器人制造平台,将一次性塑料转化为房屋地基、甲板、屋架等建筑构件。其无水塑料回收技术与大型复合增材制造技术已用于支撑谷仓、码头,并近期为美国陆军工程兵团提供回收复合屋架,在马萨诸塞州湿地建造40英尺桥梁。大型复合屋架可在13分钟内打印完成,承重超过4000磅;每个Atlas工厂单元每天可生产约一栋小型房屋的结构框架材料。

  2. MIT News · AI62

    MIT提出HardFlow方法使生成AI适用于安全关键场景

    MIT研究人员提出HardFlow算法,通过在生成过程末端而非中间步骤强制硬约束,使扩散模型和流匹配模型在机器人路径规划等安全关键场景中既满足严格约束又提升解质量。实验表明HardFlow在机器人操作、迷宫导航和文本引导图像编辑中实现完美约束满足,并在解质量上持续超越基线,计算时间与多数方法相当或更低。

    推荐理由:该方法在部署时即可对预训练生成模型施加硬约束而不重新训练,为机器人等安全关键场景提供了可即插即用的改进路径。

9月11日周五
  1. ScienceDaily · AI36

    DTU 纳米激光器有望将计算机能耗减半

    DTU 研究人员开发出紧凑型纳米激光器,可在室温下以极低能耗运行,未来有望将计算机能耗降低多达一半。该器件通过纳米腔结构在微观尺度集中光与电子的相互作用,已在 DTU Nanolab 清洁间中实现。每颗芯片可集成数千个此类激光器,实现芯片内光子通信,预计剩余技术挑战可在 5-10 年内解决。

  2. Together AI69

    Together AI 扩展微调服务:新增模型、实时指标与更细粒度控制

    Together AI 升级微调平台,新增 GLM-5.3、Kimi K2.7、DeepSeek-V4-Flash、Qwen 3.8-27B、Gemma 4 等开源模型支持,并引入实验实时追踪、Expert LoRA、早停、任意批量大小、样本权重、预飞行校验与打包控制等功能。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

9月10日周四
  1. Mistral AI39

    Cloudera 与 Mistral 达成合作,为企业数据带来专业化主权智能

    Mistral 与 Cloudera 达成合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持在私有云、公有云、本地及完全气隙环境部署推理并保持控制。企业还可在受控环境用专有数据训练自有模型并保留数据与智能所有权,面向主权 AI 需求。Mistral 提到 Cloudera 平台承载 30 exabytes 客户管理数据。

  2. Together AI60

    ThunderKittens 在 NVIDIA Vera Rubin NVL72 上新增 NVFP4/FP8 GEMM 支持

    Together AI 内核团队在 Vera Rubin NVL72 上扩展 ThunderKittens,支持 NVFP4 与 FP8 GEMM,并通过双 K 步长、独占张量内存、更大共享内存、B 侧收集器与 Early A release 等优化,将 NVFP4 推至超 22 PFLOPS,与 cuBLAS 和 CuTE DSL 竞争。

    推荐理由:原文给出了在 Vera Rubin 上优化 NVFP4/FP8 GEMM 的具体方法与性能数据,读者可迁移这些调优思路到自家 Rubin 部署。

  3. Hugging Face Blog67

    Gradio Workflow 重建 AUTOMATIC1111 工作流

    Hugging Face 用 Gradio Workflow 重建了 AUTOMATIC1111 的核心功能,形成包含 11 条媒体管道、73 个节点的单一工作流画布,涵盖文生图、高分辨率修复、图生图、提示词矩阵、VLM 问答、检测到 inpaint 掩码、ControlNet 风格标注器、背景去除、PNG Info 读取和图生视频。

    推荐理由:原文展示了用同一套画布串联多种模型与媒体管道的构建方式,读者可据此评估 gr.Workflow 在多模态工作流中的可复用性。

  4. Together AI69

    Together AI 推出抢占式计算:相同算力半价

    Together AI 公开预览抢占式计算节点,算力与标准节点相同,按 sub-hourly 计费为按需价的 50%。回收时有 5 分钟 drain 窗口,节点标注 together.ai/compute-class=preemptible,适合可 checkpoint 或重试的短实验、推理突发和批处理任务。

    推荐理由:原文给出了成本变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

  5. Hugging Face Blog63

    HF Jobs 上用 LoRA 实现异步 GRPO 训练:一个存储桶、一个代理、无需 NCCL

    TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 适配器仅同步功能,结合 HF Jobs Storage Bucket 挂载,使训练与推理可运行在独立机器上,无需 NCCL。五次实验将 500 步训练从 3h27m 优化至 53min,通过 token 预算批处理和提升并发请求数将瓶颈从训练端转移到生成端。

    推荐理由:通过LoRA适配器仅同步加存储桶挂载,训练与推理可部署在独立HF Jobs上无需NCCL,五次实验将500步训练从3小时27分压缩至53分钟。

9月9日周三
  1. Together AI64

    开源 AI 栈:模型、推理、网关与 Harness 的选型与组合指南

    Together AI 发布开源 AI 栈指南,将栈分为模型、推理、网关与路由器、Harness、工具与上下文管理五层。推荐同时使用大模型(如 Kimi K3,1.8T 总参数)与小模型(如 GLM 5.3 Flash,320B 总参数)处理不同复杂度的任务,并可通过 OpenRouter、Vercel AI Gateway 或 LiteLLM 路由多提供商。

    推荐理由:原文分层拆解开源 AI 栈各层组件与选型思路,开发者可按需组合模型、网关与工具。

9月3日周四
  1. Google DeepMind65

    Google DeepMind 发布 WeatherNext 3,全球天气 AI 模型分辨率提升至 5 公里并实现每小时更新

    Google DeepMind 发布 WeatherNext 3,改用实时卫星观测数据直接训练全球天气 AI 模型。模型以 5 公里分辨率、每小时更新生成预报,降水预报 CRPS 最高较 IMERG 提升 60%,并已集成至 Search、Gemini、Maps 及 Google Cloud 平台。

    推荐理由:WeatherNext 3 摒弃传统数值天气预报训练数据,改为直接使用实时卫星观测数据,将全球分辨率提升至5公里并实现每小时更新,降水预报CRPS最高改善60%。

  2. Hugging Face Blog61

    NeoMME高效多模态原生多语言编码器

    NeoMME是260M和800M多模态原生多语言编码器,单塔双向Transformer从零训练,无需独立视觉塔或因果语言模型。260M模型在ViDoRe v3上达0.523 nDCG@10,超越同参数模型,编码速度约2倍于ColModernVBERT。通过分层池化和非对称量化,late-interaction存储从1.5MB压缩至6kB/页,压缩255倍且保留95%以上检索质量。

    推荐理由:单塔多模态编码器以260M参数在ViDoRe v3上超越更大模型,并通过分层池化和非对称量化将多向量检索存储压缩255倍同时保留95%以上质量。

  3. GitHub Engineering69

    GitHub Copilot 四项优化降低 AI 编码成本且不牺牲任务质量

    GitHub Engineering 公布 GitHub Copilot 的四项成本优化:选择性压缩重复输出、移除文件读取行号前缀、缩短任务工具提示词、批量送达后台完成结果。离线基准与在线实验显示平均成本下降约 2.3%–5%,无质量回归;强调应按完整任务而非单次工具调用评估效率。

    推荐理由:GitHub Copilot 通过四项工程优化降低 AI 编码成本,读者可据此理解上下文压缩与提示精简的边界。

9月1日周二
  1. Hugging Face Blog64

    Hugging Face 发布 @huggingface/kernels:207 个 WebGPU 内核库支持浏览器端本地 AI 推理

    Hugging Face 发布 @huggingface/kernels 库及 Fleet 众测工具,提供 207 个 WebGPU 内核,覆盖矩阵乘法、Softmax、LayerNormalization 等操作。

    推荐理由:Hugging Face发布207个WebGPU内核库,以版本化包形式提供可复用的GPU操作原语,并搭配Fleet众测平台收集真实硬件性能证据,为浏览器端本地AI推理奠定底层基础。

8月31日周一
  1. MIT News · AI64

    JuliaHub 发布 Dyad 3.0,以物理约束 AI 智能体加速复杂系统设计

    JuliaHub 推出 Dyad 3.0,帮助工程团队通过自主 AI 智能体完成物理仿真、安全分析与质量校验,并依据物理定律修正设计。Julia 用户已超 100 万,被用于模拟电路、气候建模、疫苗研发和飞机防撞系统。

    推荐理由:原文给出 Dyad 3.0 的物理约束能力和 Boeing 等客户案例,读者可据此判断工程设计的自动化边界。

8月28日周五
8月25日周二
  1. Hugging Face Blog67

    Granite 4.2 推理模型构建方法解析

    IBM Granite 4.2 推理模型家族(3B/8B/30B)采用分阶段强化学习流水线构建,支持思考/非思考切换与低思考预算模式。8B 与 30B 经过智能体 RL 训练,可在真实沙盒环境中进行代码编辑、终端操作与网页搜索,训练基于 NeMo-RL 与 NeMo-Gym,最终以 Apache 2.0 许可证开源。

    推荐理由:详细展示了从可验证奖励到智能体环境交互的分阶段强化学习流水线,为构建具备工具调用能力的推理模型提供了可复现的训练框架。

  2. Mistral AI39

    Mistral 与 HUMAIN 宣布战略合作,推进沙特及区域主权 AI

    Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署,初期聚焦网络安全与语音,并计划开发阿拉伯语表现强劲的前沿模型,合作规模达数亿欧元。Mistral 将探索使用 HUMAIN 的数据中心基础设施,双方还计划在沙特推进联合 go-to-market 策略,面向受监管行业。

8月24日周一
8月22日周六
  1. Google Research46

    Google Research 的 Biomarker Discovery Framework:从可穿戴传感器数据中优先排序候选生物标志物

    Google Research 提出 Biomarker Discovery Framework,一个多智能体系统,用于从可穿戴传感器数据中优先排序候选生物标志物。在三个队列共9,279名参与者-观测中,框架自主识别了41个心理健康和25个代谢候选数字生物标志物。框架结合假设生成、统计分析、对抗验证和文献推理,通过11项内部检查电池分配报告标签,保持统计严谨性与人类监督。

8月21日周五
  1. Microsoft Research62

    Skala 1.1 发布并扩展至 CP2K、Psi4、FHI-aims、ORCA 和 VASP

    Skala 1.1 在 GMTKN55 上加权误差达 2.8 kcal/mol,在 55 个类别中 32 个达到最优,同时保持半局域泛函的计算效率。Skala 已登陆 CP2K,并正在集成至 Psi4、FHI-aims、ORCA 和 VASP;微软研究院同步推出持续更新的性能基准报告。

    推荐理由:原文给出精度提升与多软件集成进展,读者可据此评估 Skala 在现有计算化学工作流中的可用性。

8月20日周四
  1. Ben's Bites · News32

    Simple agents

    个人智能体本质上只是文件与工具的连接器,记忆也仅是会话开始时读取的文件。Ben 分享了清理后的 AGENTS.md 写法:把问题视为请求回答而非修改,并预告明天展示自己搭建个人智能体的完整会话。

8月18日周二
  1. Hugging Face Blog62

    Dharma AI:GPU管理实践——相同集群提升33个百分点利用率

    Dharma AI发布约束感知GPU分配器,在七种基准场景中对比FIFO调度器,相同硬件与负载下GPU利用率提升最多33个百分点,优先级加权输出最多提升105%。该方法将实时推理视为需求曲线而非固定预留,按优先级跨整个调度 horizon 放置批量任务,并通过22维特征预测训练负载与周需求画像来支撑调度决策。

    推荐理由:同一集群通过调整分配顺序而非更换硬件,实现了最高33个百分点的利用率提升,为企业GPU调度提供了可复用的约束感知方法。

8月17日周一
  1. Interconnects62

    Teaching Everyone to Fish for Tokens:开源模型生态的经济路径分析

    Nathan Lambert 讨论开源模型生态与 Linux 类比,指出开放权重模型更接近具体软件版本,而完整开源训练配方更接近操作系统。Nvidia 通过 Nemotron 推动近开源路线以扩大推理需求,但开源训练高度依赖其融资,未来几年需形成正向反馈。另一种可能是开源模型转向效率与专业化长尾,与闭源模型形成分化。

  2. Together AI76

    Together AI 端点支持 A/B 测试模型

    Together AI 在端点层新增 A/B 实验功能,通过控制组与变体部署的百分比分流对比真实用户指标。实验挂载到端点,控制组在基础流量中按权重抽取后重新采样到变体,变体权重必须为零;支持 95/5 到 50/50 多档流量与最多 20 个变体,通过 etag 防止并发更新冲突。

    推荐理由:平台在端点层原生支持 A/B 实验与滚动升级的编排,读者可据此把新模型上线从自建分流逻辑中解耦。

8月16日周日