跳到正文

#部署/工程

今日 67 条
7月10日周五
7月9日周四
7月8日周三
  1. Hugging Face Blog65

    transformers vLLM 后端达到原生推理速度

    Hugging Face 更新 vLLM 的 transformers 建模后端,在 Qwen3-4B、Qwen3-32B、Qwen3-235B-A22B-FP8 三种模型上达到或超越原生 vLLM 吞吐。模型作者只需添加 --model-impl transformers 标志即可自动获得优化推理,无需手写自定义实现。

    推荐理由:transformers 后端现已达到原生 vLLM 实现同等吞吐,模型作者无需重写代码即可在 vLLM 中获得优化推理性能。

7月7日周二
  1. Berkeley AI Research60

    Intelligence is Free, Now What? Data Systems for, of, and by Agents

    Berkeley EAIR 发表观点文章,探讨当推理成本接近零时数据系统面临的三重挑战:Data Systems For Agents(为智能体推测性查询重新设计,如共享扫描与近似答案)、Data Systems Of Agents(为多智能体集群提供结构化记忆与协调子层)、Data Systems By Agents(由智能体从零合成定制数据系统并验证正确性)。

    推荐理由:原文从推理成本骤降切入,提出数据系统需为智能体重塑的三重挑战,为理解Agent与数据基础设施的共演化提供了一个可迁移的分析框架。

  2. Hugging Face Blog70

    SkyPilot 集成 Hugging Face Storage:零 egress 跨云读取 Hub 数据

    Hugging Face 与 SkyPilot 联合推出 store: hf 存储后端,用 hf:// URL 将 HF Bucket 或 Hub repo 挂载到 SkyPilot 任务,实现跨云 GPU 任务零 egress 读取。

    推荐理由:Hugging Face Storage 成为 SkyPilot 官方存储后端,团队可在任意云上运行 GPU 任务并免费读取 Hub 数据,无需跨云拷贝或承担 egress 费用。

  3. Hugging Face Blog82

    LeRobot v0.6.0 发布:Imagine, Evaluate, Improve

    LeRobot v0.6.0 发布,引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新 VLA 模型(GR00T N1.7、MolmoAct2、EO-1、Multitask DiT、EVO1)和奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

7月6日周一
7月1日周三
  1. Hugging Face Blog56

    ScarfBench:评测 AI 智能体在企业 Java 框架迁移中的表现

    IBM Research 发布开源基准 ScarfBench,包含 34 个应用、102 套框架实现、204 个迁移任务和约 151K 行代码,覆盖 Spring、Jakarta EE、Quarkus 之间的迁移。当前前沿智能体行为成功率不足 10%,构建成功率显著高于部署和行为验证成功率;智能体普遍高估自身构建结果,且反复回到配置层处理依赖与环境问题。

6月30日周二
6月26日周五
  1. Kubernetes AI33

    用 Headlamp 插件更快查看 Volcano 工作负载

    Headlamp 推出 Volcano 插件,将 Job、Queue、PodGroup 等核心资源与地图视图集成到统一界面,方便检查批处理工作负载的调度状态与阻塞原因。插件提供任务详情、Pod 状态、事件、日志查看及 Suspend/Resume 等生命周期操作,但不替代 kubectl 与 Volcano CLI。

6月25日周四
  1. MIT News · AI62

    MIT 与 Microsoft 提出 Murakkab 系统,提升 AI Agent 工作流的速度与能效

    MIT 和 Microsoft 研究人员开发了 Murakkab 系统,开发者可用自然语言描述意图,系统自动选择模型、工具并动态配置硬件资源。测试显示,该方法在视频问答和代码生成任务中仅用约 35% 的计算量、27% 的能耗和不到 25% 的成本,同时满足性能要求。

    推荐理由:原文给出了具体优化幅度和动态配置方法,读者可以据此评估云上 Agent 工作流的能效潜力。

6月24日周三
6月23日周二
  1. Mistral AI64

    Mistral OCR 4 发布

    Mistral 发布 OCR 4,支持 170 种语言的单容器自托管文档解析,返回边界框、区块分类与内联置信度。

    推荐理由:独立标注者平均 72% 偏好 OCR 4,配合单容器自托管与结构化输出,为企业 RAG 和智能体工作流提供了兼顾数据主权与提取精度的 OCR 方案。

  2. MIT News · AI62

    MIT发布Gleanmer芯片,低功耗实时3D建图助力小型机器人

    MIT研究人员发布名为Gleanmer的系统级芯片,仅消耗约6毫瓦功率即可实时构建详细3D地图,功耗仅为现有最佳建图芯片的2.5%。芯片采用高斯椭球(Gaussian)替代传统体素表示,并结合单遍生成与高斯融合算法,大幅降低内存与功耗,可帮助小型无人机在工业HVAC系统等复杂环境中避障规划路径。

    推荐理由:算法与硬件协同设计让低功耗实时3D建图成为可能,为小型自主机器人和轻量AR设备提供了新的能效路径。

6月18日周四
  1. Weaviate Blog34

    Weaviate 大规模数据导入与向量化指南

    summary_zh: Weaviate 提供服务端流式批处理导入模式,服务器根据队列深度自动调节速率,客户端无需手动设置 batch_size 或并发数。导入时需处理 per-object 失败、重复写入与内存溢出问题:HTTP 200 不代表全部写入,应通过 failed_objects 重试并用 generate_uuid5 避免重复。

6月17日周三
  1. Google Research35

    Google Earth AI 发布 Farmscapes 高分辨率向量化乡村生态地图

    Google Earth AI 发布 Farmscapes 向量化数据集,将英国 130,000 km² 高分辨率卫星影像中的树篱、石墙和林地转为可操作矢量清单。基于 RSF ViT 骨干(预训练于 3 亿+全球卫星图)微调,结合亚米影像与 1 米 LiDAR 双层标注,用 Polsby–Popper 紧凑度得分区分林地(≥30 米直径)、树丛与线性植被。

6月15日周一
6月11日周四
  1. Vector Institute40

    Anne Martel:用 AI 个性化癌症治疗

    Anne Martel 开发 AI 系统,从医学影像(数字病理与放射影像)和临床文本数据中提取可操作信息,辅助肿瘤科医生制定个性化治疗方案。她的团队在 ICCV 展示多模态融合方法:将病理大模型与基因组数据及临床记录结合,通过多任务学习共享表征,提升预测准确性。医学影像 AI 已从跟随计算机科学进展转向贡献原创方法。

  2. Ollama Blog62

    Ollama MLX引擎在Apple Silicon上性能再提升,支持NVFP4与快照系统

    Ollama更新MLX引擎,在Apple Silicon上最高提速20%,并新增对NVIDIA NVFP4格式的支持,使模型量化质量损失约为q4_K_M的一半。Ollama推出快照系统,在Agent多子Agent切换、思考模型推理和分支重试时保存模型状态,避免重复处理上下文。用户可下载最新版Ollama后运行gemma4:12b-mlx模型,或通过ollama launch在编码Agent中使用。

    推荐理由:Ollama在Apple Silicon上通过MLX引擎支持NVFP4格式并引入快照系统,读者可据此评估本地Agent工作流的性能提升与跨端部署可能性。

  3. Google DeepMind64

    Google DeepMind 发布 DiffusionGemma:4 倍加速的并行扩散文本生成实验模型

    Google DeepMind 发布开源实验模型 DiffusionGemma,采用并行扩散架构替代逐 token 生成,在本地 GPU 上实现最高 4 倍推理加速。

    推荐理由:DiffusionGemma 采用并行扩散架构替代传统逐 token 生成方式,在本地 GPU 上实现最高 4 倍推理加速,为交互式本地工作流提供了新的速度方案。

6月10日周三
  1. Amazon Science76

    AWS EC2 M9g 实例推出经形式化验证的隔离引擎

    AWS 宣布 EC2 M9g 和 M9gd 实例正式可用,首次搭载 Graviton5 处理器并配备 Nitro Isolation Engine。该组件是首个部署在商用云环境的形式化验证 Hypervisor,使用 Isabelle/HOL 完成 33 万行机器检查数学证明,涵盖保密性、完整性、功能正确性、无运行时错误和内存安全。

    推荐理由:给出了可量化的验证规模和语言选择,读者可以据此评估云虚拟机隔离的形式化保障程度。

6月9日周二
  1. Amazon Science47

    Project Eluna:智能体 AI 的物理世界锚定

    2026 年 AI 从"知道"转向"行动",Amazon 推出 Project Eluna,作为仓库运营的智能体模型,通过数字仪表板辅助运营决策。论文提出四种锚定方法:物理引导深度学习、不确定性感知推理、文本到数值桥接,以及第四种方法。UQ4CT 框架在五个基准上保持高准确率,同时将预期校准误差降低 25% 以上。

6月5日周五
6月4日周四
  1. Ollama Blog67

    NVIDIA Nemotron 3 Ultra 模型发布

    NVIDIA Nemotron 3 Ultra 现已上线 Ollama 云端,为 550B 总参数、55B 活跃参数的开放模型,专为长程 Agent、编码 Agent 与复杂企业工作流设计,支持 1M 上下文与 NVFP4 推理。

    推荐理由:原文给出参数规模与 NVFP4 优化,读者可据此评估它在长程 Agent 工作流中的成本与吞吐表现。

  2. Google Research58

    Google开源水文模型框架以提升全球洪水韧性

    Google Research将用于Google Flood Hub的水文模型框架开源至GitHub,采用Apache 2.0许可,基于PyTorch并支持LSTM架构。框架包含2024基准测试版与升级版,新版本在有测站流域将可靠预报期延长6天、无测站流域延长1天,并可与Delft-FEWS平台集成。捷克水文气象研究所(CHMI)已合作验证并提供适配器。

6月2日周二
  1. Kubernetes AI31

    从 Kubernetes Dashboard 到 Headlamp:理解迁移与过渡

    Kubernetes Dashboard 项目已归档,Headlamp 继承其可视化界面并扩展多集群可见性、应用中心视图、插件扩展及集群内与桌面灵活部署能力。Headlamp 保留浏览 workloads、编辑 manifests、遵循 RBAC 等熟悉工作流,并通过 Projects 将相关资源聚合,同时支持 Flux 插件与 AI Assistant 等功能。

5月29日周五
  1. Together AI78

    Together AI 构建最快语音转文本栈的方法

    Together AI 详细介绍了其生产级 ASR 栈的优化,覆盖 TensorRT 多 profile 编码器、无 CPU 同步的条件 CUDA 图解码器、共享内存与 Unix 域套接字零拷贝路径、epoll 事件驱动流式 I/O,以及 gc.freeze() 消除 p95 延迟尖峰。

    推荐理由:原文给出多层次系统优化路径,读者可据此评估自身 ASR 延迟瓶颈是否落在数据路径而非模型本身。