跳到正文

全部动态

今日 2 条
今天9月30日周三
  1. AWS Machine Learning Blog21

    Amazon Quick Prompt Engineering 基础指南

    summary_zh: Amazon Quick 的提示词工程决定 AI 功能响应自然语言请求的准确性和可靠性。核心原则包括:通过具体性消除歧义、提供业务上下文提升相关性、用示例(few-shot)替代抽象描述,以及使用 CRISPE 等结构化框架确保复杂请求的完整性和一致性。

9月29日周二
9月26日周六
  1. AWS Machine Learning Blog29

    在 Amazon EKS 上借助 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%。RLHF 与 GRPO 需同时平衡大规模 rollout 生成和紧耦合策略训练,两侧速率不匹配会让加速器空闲或引发训练不稳定。更稀疏的 MoE 使训练更受通信而非算力制约;作业超出单实例后,通信从节点内 NVLink 转到更低带宽的节点间链路。

9月25日周五
9月24日周四
  1. Hugging Face Blog67

    如何使用 NVIDIA Warp 和 MjWarp 加速机器人模拟和学习工作流

    NVIDIA 博客介绍了如何将 MuJoCo 场景迁移到 MJWarp 以实现 GPU 加速。文章展示了从 SO-101 机械臂的 CPU 模拟到 2048 并行 GPU 环境的迁移步骤,包括模型上传、批处理状态复制、CUDA 图捕获和吞吐量测量。迁移后可实现单步从 CPU 世界到 GPU 批处理的并行推进。

    推荐理由:NVIDIA 提供了从 MuJoCo 到 MJWarp 的迁移指南,展示了如何将单个机器人模拟扩展到 2048 个并行 GPU 环境,实现大规模采样。读者可据此在物理 AI 学习工作流中利用 GPU 加速。

  2. Simon Willison31

    Shadow roots, explained with live examples

    summary_zh: 通过交互示例讲解 shadow DOM,涵盖样式封装、继承、插槽、parts 与 JavaScript 访问。展示 shadow roots 如何创建带有私有样式表的隔离 DOM 树,并与页面 DOM 以特定受控方式交互。

9月23日周三
9月17日周四
  1. GitHub Blog · AI & ML78

    GitHub Copilot运行时迁移至Rust,使用Copilot

    GitHub Copilot运行时从TypeScript重写为Rust,由AI代理主导完成,超过80万行Rust代码。迁移过程实现了性能提升和跨产品共享运行时。

    推荐理由:原文详细记录了使用Copilot代理将GitHub Copilot运行时从TypeScript迁移至Rust的过程,性能提升显著,并实现了多产品共享。

9月16日周三
  1. Together AI40

    从闭源模型迁移到开源模型,Together AI 发布迁移指南

    Together AI 发布从闭源迁移到开源模型(OSM)的策略指南,采用托管服务可将迁移时间从数月/年缩短至数周。指南建议通过定义用例、筛选相关基准(如 FrontierCode、LMArena、τ-bench 等)锁定候选模型,并基于每任务成本、token 消耗和延迟进行对比,最终用真实流量回放做准确性与性能评估。

9月11日周五
9月4日周五
9月3日周四
  1. Hugging Face Blog67

    用 TRL 和 OpenEnv 训练代码生成水彩画模型

    作者用 TRL + OpenEnv 复现 Surya Narreddi 的水彩画训练流水线,全部工件开源并在 Hugging Face 上端到端运行。奖励函数由编译门、代码长度、Qwen3-VL 配对裁判和 HPSv3 美学偏好组成,三组奖励混合(judge-led / hps-led / hps-only)对比显示,裁判权重越高起始奖励越低但最终质量提升越明显。

    推荐理由:原文给出了完整开源流水线和三次奖励对比,读者可据此复现并迁移到其他审美偏好数据集。

  2. Hugging Face Blog69

    用 GRPO 微调 350M 模型提升结构化输出表现

    作者用 GRPO 和 TRL 对 LFM2.5-350M 进行约 100 步微调,在 IFStruct 基准上从 22.6% 提升到 29.7%。方案使用约 500 条样本、3 个奖励函数,并在免费 Colab 或 Kaggle GPU 上可运行,代码已开源。

    推荐理由:原文给出了一套可在免费 GPU 上复现的小模型结构化输出微调方案,读者能直接迁移该奖励函数与数据增强思路。

8月26日周三
8月15日周六
  1. Sebastian Raschka36

    从零构建 AI 文本检测器

    summary_zh: 作者结合 Substack 新推出的 AI 检测器功能与本地 DIY LLM 项目,演示如何从零实现一个 AI 文本检测器,并将其用作验证器训练小语言模型生成可规避检测的文本。

7月23日周四
  1. Vector Institute33

    Mixture-of-Experts:从稀疏路由到多模态部署

    MoE 模型通过路由器为每个 token 动态选择少量专家子网络激活,在增加总参数的同时保持每 token 计算稀疏。文章首先解释路由决策、负载均衡与训练中 specialization 的形成机制,随后报告了在 4 张 A100 GPU 上微调 350 亿参数多模态 MoE 的经验,涵盖 5 种失败的 sharding 方案、最终成功的方法,以及按层路由审计揭示的音频、视频与文本容量分配。

6月27日周六
3月11日周三
  1. Mistral AI42

    基于 Vibe 构建 Rails 测试代理:让代理自动编写开发者不愿写的测试

    基于 Mistral 开源编码助手 Vibe 构建了一个自主代理,能自动读取 Rails 源文件并生成或改进 RSpec 测试,在 CI/CD 流水线中无人干预运行。通过 AGENTS.md 上下文工程和按文件类型分类的 SKILLS 文件,质量分数从 0.68 提升到 0.74。该代理并行处理多个文件,并自动管理 factories 和 fixtures 等共享上下文,避免测试遗漏。

2月12日周四
  1. Andrej Karpathy · Notes70

    microgpt:200行Python从零实现GPT

    Andrej Karpathy发布开源项目microgpt,单文件200行纯Python无依赖,完成数据集加载、分词、自定义autograd、GPT-2风格架构、Adam优化器、训练与推理全流程。模型在32,000个名字数据集上训练1,000步,损失从约3.3降至约2.37,并生成新名字样例。附逐步代码解读与从train0.py到train5.py的渐进构建路径。

1月22日周四