跳到正文

#Hugging Face

今日 4 条
8月19日周三
  1. Hugging Face Blog74

    ALTK-Evolve:智能体记忆剂量如何随模型能力变化

    ALTK-Evolve 通过从历史轨迹中蒸馏行为指南并在推理时注入,实现无需权重更新的智能体记忆。在 AppWorld 上评估 8 个模型,发现强模型用完整指南集、弱模型用精选检索、最强模型已饱和无增益;gpt-oss-120b 以 +5% tokens 代价获得 +16.1pp TGC 提升,prompt caching 可降低生产成本。

    推荐理由:同一套记忆机制在不同能力模型上呈现三种剂量效应,为读者提供了可迁移的校准思路而非单一结论。

8月18日周二
  1. Hugging Face Blog62

    Dharma AI:GPU管理实践——相同集群提升33个百分点利用率

    Dharma AI发布约束感知GPU分配器,在七种基准场景中对比FIFO调度器,相同硬件与负载下GPU利用率提升最多33个百分点,优先级加权输出最多提升105%。该方法将实时推理视为需求曲线而非固定预留,按优先级跨整个调度 horizon 放置批量任务,并通过22维特征预测训练负载与周需求画像来支撑调度决策。

    推荐理由:同一集群通过调整分配顺序而非更换硬件,实现了最高33个百分点的利用率提升,为企业GPU调度提供了可复用的约束感知方法。

8月16日周日
8月14日周五
  1. Hugging Face Blog74

    Strands Robots、LeRobot 与 Hugging Face Storage Buckets 打通录制、训练与部署循环

    Strands Robots 演示了用 Storage Bucket 记录 LeRobot 格式数据、通过字节级去重同步、从 Hub 流式读取训练、再以 mode='real' 部署到物理机器人的完整循环。示例使用 SO-100 机械臂和 mock policy,配套 notebook 在模拟环境即可运行。

    推荐理由:原文给出一条从录制到训练再到部署的完整数据循环,读者可据此判断它会怎样改变现有机器人工作流。

8月13日周四
  1. Hugging Face Blog82

    Hugging Face 复现 ICML 2026 两千篇论文:社区发现近半数论文存在可复现性问题

    Hugging Face 在 2026 年 7 月 15 日至 8 月 2 日发起 ICML 2026 Open Reproductions 挑战,1,221 名社区成员使用 Claude Code、Codex、Cursor 等智能体复现了 2,226 篇论文(占会议 34%),发布 6,816 本 Trackio 日志。

    推荐理由:大规模复现挑战揭示了AI论文可复现性的真实状况,为理解智能体在学术审核中的实际能力与边界提供了关键事实。

8月11日周二
  1. Hugging Face Blog83

    ALTK-Evolve:更少 Token 的智能体经验记忆方案

    ALTK-Evolve 与 ACE 都将智能体历史轨迹转化为可复用经验,但 ACE 每次注入完整剧本,ALTK-Evolve 按任务与模型能力选择性检索。AppWorld 上 DeepSeek-V3.2 TGC 89.3 vs 80.4、Token 263K vs 634K;gpt-oss-120b TGC 56.0 vs 54.8、Token 116K vs 777K。

    推荐理由:同样不压缩经验,ALTK-Evolve 按模型能力分发提示,在强模型上以约 40% 的 ACE 推理成本取得更高准确率。

8月10日周一
  1. Hugging Face Blog62

    高效知识蒸馏:离线 Top-K Logits 与融合分块 KL 损失

    Multiverse Computing 提出高效知识蒸馏方法,通过缓存教师模型 top-100 logits 与融合分块 KL 损失,避免构建全词汇表×序列矩阵,在单 H200 上把峰值显存从约 250GB 降至约 58GB,并在 32K 上下文下把蒸馏从四卡节点缩至单卡。代码已开源:github.com/CompactifAI/Full-Chunked-KL-Loss

    推荐理由:通过缓存 top-K logits 与融合分块 KL 损失两条改动,把蒸馏显存占用压到单卡可跑,为长上下文蒸馏提供了可复现的低成本路径。

8月9日周日
8月6日周四
8月3日周一
7月27日周一
  1. Hugging Face Blog64

    NVIDIA 发布 Cosmos-H-Dreams:实现手术机器人实时生成式仿真

    NVIDIA 发布 Cosmos-H-Dreams,一款基于单张 RTX PRO 6000 GPU 运行的手术机器人实时生成式仿真器。该模型从 Cosmos-H-Surgical-Simulator 蒸馏而来,通过 FlashDreams 推理库实现约 160 fps 的交互式操作,每潜在帧仅需 2 步去噪,支持 dVRK 桌面缝合任务,并可连接学习型手术策略形成闭环。

    推荐理由:NVIDIA将手术世界模型压缩至单卡实时推理,使外科机器人策略的闭环评估与合成数据生成不再依赖稀缺物理硬件。

7月23日周四
  1. Hugging Face Blog68

    Nunchaku Lite 正式接入 Diffusers,4-bit 量化扩散模型推理无需额外推理引擎

    Nunchaku Lite 现已原生集成到 Diffusers,用户可通过 from_pretrained() 直接加载 4-bit 量化扩散模型,无需单独推理引擎或本地 CUDA 编译。

    推荐理由:Nunchaku Lite 现已原生接入 Diffusers,无需额外引擎即可通过 from_pretrained() 加载 4-bit 量化模型,在 RTX 5090 上 VRAM 从 24GB 降至约 12GB,推理加速约 30%。

7月21日周二
  1. Hugging Face Blog72

    Grabette:开源手持设备记录机器人操作数据

    Grabette 是 Pollen Robotics 发布的开源手持采集设备,配合 Gripette 机械爪端,能用普通相机、IMU 和深度相机记录操作演示,并自动生成 LeRobot 格式的机器人就绪数据集。

    推荐理由:原文给出了低成本的采集方案与开放数据集入口,读者可以据此判断它能否降低机器人学习的数据门槛。

7月16日周四
  1. Hugging Face Blog50

    DharmaOCR 在巴西葡萄牙语 OCR 上超越 Mistral OCR4 和 Unlimited-OCR

    DharmaOCR 通过领域专精与两阶段训练(监督微调 + DPO),在巴西葡萄牙语基准上得分 0.925,显著高于 Mistral OCR4 的 0.798 与 Unlimited-OCR 的 0.7587。监督微调将参数集中于巴西葡萄牙语的词汇、句法与文档结构,DPO 阶段则降低推理时的退化率与不稳定输出。两阶段缺一不可:微调建立领域能力,DPO 确保该能力在生产条件下稳定。

  2. Hugging Face Blog83

    Hugging Face 披露 7 月安全事件:AI 驱动入侵与自主取证分析

    Hugging Face 检测到生产基础设施遭自主 AI 代理系统入侵,未经授权访问了部分内部数据集和凭证,未发现公开模型、数据集或 Spaces 被篡改。攻击通过恶意数据集利用数据处理管道中的代码执行路径发起,代理框架在数千个短期沙箱中执行了超过 17,000 条操作。

    推荐理由:Hugging Face 披露了由自主 AI 代理系统驱动的入侵事件,并分享了用自有开源模型进行取证分析的实践经验。

  3. Hugging Face Blog62

    模型路由看似简单,直到你真正做起来

    IBM Research 在 Hugging Face 博客指出,将路由引入 Agent 系统时,模型选择会迅速演变为系统优化问题。实际成本受缓存、基础设施和负载模式影响,GPT-4.1 在标价更低的情况下反而比 Claude Sonnet 4.6 更贵;路由需同时平衡成本、质量、延迟、合规与可靠性。

    推荐理由:从成本与系统优化角度重新审视路由设计,为构建 Agent 系统提供可迁移的权衡思路。

7月15日周三
  1. Hugging Face Blog60

    Hugging Face 推出 Real World VoiceEQ 语音AI人本质量评测基准

    Hugging Face 发布 Real World VoiceEQ 基准,从声学信息层面评估语音交互的人本质量,覆盖ASR、TTS、S2S与语音理解,超40款开源与闭源模型参与。评测基于超过100万条人类评分,包含78.5万条TTS与4.8万条STS评分,并指出传统基准在噪声、口音、情绪等真实场景下高估模型表现,语音模型在

    推荐理由:原文呈现了覆盖40余款模型的评测结果与关键发现,帮助读者在语音接口成为主流交互方式的背景下重新审视现有基准的局限。

  2. Hugging Face Blog65

    Thinking Machines 发布 Inkling 多模态开源模型

    Inkling 由 Thinking Machines 发布,是一个原生接收图像、文本和音频输入的大规模多模态开源模型,总参数约 1T、活跃参数 41B,支持 1M 上下文窗口。

    推荐理由:Inkling 是原生接收图音文三模态的大规模开源模型,提供 BF16 与 NVFP4 双版本及 day-0 支持的推理引擎,读者可据此评估其在多模态推理基准中的相对位置。

7月8日周三
  1. Hugging Face Blog65

    transformers vLLM 后端达到原生推理速度

    Hugging Face 更新 vLLM 的 transformers 建模后端,在 Qwen3-4B、Qwen3-32B、Qwen3-235B-A22B-FP8 三种模型上达到或超越原生 vLLM 吞吐。模型作者只需添加 --model-impl transformers 标志即可自动获得优化推理,无需手写自定义实现。

    推荐理由:transformers 后端现已达到原生 vLLM 实现同等吞吐,模型作者无需重写代码即可在 vLLM 中获得优化推理性能。

7月7日周二
  1. Hugging Face Blog67

    Hugging Face 模型登陆 Foundry Managed Compute,支持一键部署

    微软在 Build 2026 发布 Foundry Managed Compute,Hugging Face 模型现可通过一键部署在 Azure 上运行。模型目录每周更新,仅包含 SafeTensors 格式的安全筛选模型,支持 vLLM、SGLang、TensorRT-LLM、NIM、TEI、llama.cpp 等运行时,并提供统一端点、Azure Monitor 指标和每部署计费标签。

    推荐理由:Hugging Face 模型现可通过 Foundry Managed Compute 一键部署,微软承担了从运行时构建、安全扫描到 CVE 补丁的运维层,让企业能在自有租户中运行开源模型。

  2. Hugging Face Blog70

    SkyPilot 集成 Hugging Face Storage:零 egress 跨云读取 Hub 数据

    Hugging Face 与 SkyPilot 联合推出 store: hf 存储后端,用 hf:// URL 将 HF Bucket 或 Hub repo 挂载到 SkyPilot 任务,实现跨云 GPU 任务零 egress 读取。

    推荐理由:Hugging Face Storage 成为 SkyPilot 官方存储后端,团队可在任意云上运行 GPU 任务并免费读取 Hub 数据,无需跨云拷贝或承担 egress 费用。

  3. Hugging Face Blog82

    LeRobot v0.6.0 发布:Imagine, Evaluate, Improve

    LeRobot v0.6.0 发布,引入世界模型策略(VLA-JEPA、FastWAM、LingBot-VA)、新 VLA 模型(GR00T N1.7、MolmoAct2、EO-1、Multitask DiT、EVO1)和奖励模型 API(Robometer、TOPReward)。

    推荐理由:原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

7月6日周一
  1. Hugging Face Blog42

    PRX Part 4:数据策略详解

    summary_zh: PRX 团队公开了其预训练数据策略:从公开与内部数据集混合采集图像数据,用 VLM 重新标注,并以长caption 保证描述完整。流程上使用 Lance 做特征工程与数据集构建、MDS 格式流式读取;文本编码器切换至 Qwen3-VL 后改为训练时实时计算 latent,仅带来约 3–4% 吞吐量开销;图像统一以质量 92 的 JPEG 编码。

7月1日周三
  1. Hugging Face Blog56

    ScarfBench:评测 AI 智能体在企业 Java 框架迁移中的表现

    IBM Research 发布开源基准 ScarfBench,包含 34 个应用、102 套框架实现、204 个迁移任务和约 151K 行代码,覆盖 Spring、Jakarta EE、Quarkus 之间的迁移。当前前沿智能体行为成功率不足 10%,构建成功率显著高于部署和行为验证成功率;智能体普遍高估自身构建结果,且反复回到配置层处理依赖与环境问题。

6月30日周二
  1. Hugging Face Blog60

    Every Eval Ever 与 Hugging Face 社区评测实现互操作,转换器自动同步评测结果

    Every Eval Ever 与 Hugging Face 社区评测现已实现互操作,官方提供了转换器工具,可自动将 EEE 评测记录同步为模型仓库中的 YAML 文件。数据存储已收录约 22.9 万条评测结果,覆盖 2.2 万个模型和 2200 个基准。该工具支持 MMLU-Pro、GPQA、HLE 和 GSM8K 四项基准,并在写入前自动审核冲突。

    推荐理由:EEE与Hugging Face社区评测现在可互操作,转换器自动将EEE记录写入YAML文件并审核冲突,解决评测结果分散难以对比的长期问题。

6月11日周四
  1. Google DeepMind64

    Google DeepMind 发布 DiffusionGemma:4 倍加速的并行扩散文本生成实验模型

    Google DeepMind 发布开源实验模型 DiffusionGemma,采用并行扩散架构替代逐 token 生成,在本地 GPU 上实现最高 4 倍推理加速。

    推荐理由:DiffusionGemma 采用并行扩散架构替代传统逐 token 生成方式,在本地 GPU 上实现最高 4 倍推理加速,为交互式本地工作流提供了新的速度方案。

5月8日周五
4月18日周六
7月15日周二
  1. Mistral AI69

    Mistral AI 发布 Voxtral 语音理解模型

    Mistral AI 发布 Voxtral 语音理解模型,提供 24B 和 3B 两个版本,均采用 Apache 2.0 开源许可。模型支持最长 30 分钟音频转录和 40 分钟理解,内置问答与摘要功能,并原生支持多语言自动识别。

    推荐理由:Voxtral以不到同类API一半的价格提供接近商用水平的语音理解能力,为开源ASR与闭源服务之间的鸿沟提供了可部署的替代方案。

5月21日周三
  1. Mistral AI65

    Devstral:Mistral AI 发布开源智能体编程模型

    Devstral 是 Mistral AI 与 All Hands AI 合作开发的开源智能体编程模型,在 SWE-Bench Verified 上得分 46.8%,领先开源 SoTA 超过 6 个百分点。

    推荐理由:Devstral以46.8%的SWE-Bench Verified成绩超越多数闭源模型,且可本地部署,读者可据此评估开源方案在真实软件工程任务中的可行性。

3月17日周一