跳到正文

#教程/实践

今日 2 条
今天9月30日周三
  1. AWS Machine Learning Blog21

    Amazon Quick Prompt Engineering 基础指南

    summary_zh: Amazon Quick 的提示词工程决定 AI 功能响应自然语言请求的准确性和可靠性。核心原则包括:通过具体性消除歧义、提供业务上下文提升相关性、用示例(few-shot)替代抽象描述,以及使用 CRISPE 等结构化框架确保复杂请求的完整性和一致性。

9月29日周二
  1. GitHub Security67

    GitHub Security Lab 用开源 AI 安全 Agent 发现 24 个 Android 漏洞

    GitHub Security Lab 发布开源 seclab-taskflows,提供 gather_mobile_entry_point_info 与 classify_application_local 等审计 taskflow,帮助安全研究者用 LLM 增量查找 Android 应用漏洞。

    推荐理由:原文给出了可复用的审计 taskflow 与运行方式,读者可据此在自有项目中尝试 AI 辅助安全审计。

9月26日周六
  1. AWS Machine Learning Blog29

    在 Amazon EKS 上借助 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%

    在 Amazon EKS 上结合 EFA 与 DeepEP 扩展 MoE 强化学习,吞吐量提升 40%。RLHF 与 GRPO 需同时平衡大规模 rollout 生成和紧耦合策略训练,两侧速率不匹配会让加速器空闲或引发训练不稳定。更稀疏的 MoE 使训练更受通信而非算力制约;作业超出单实例后,通信从节点内 NVLink 转到更低带宽的节点间链路。

9月25日周五
9月24日周四
  1. Hugging Face Blog67

    如何使用 NVIDIA Warp 和 MjWarp 加速机器人模拟和学习工作流

    NVIDIA 博客介绍了如何将 MuJoCo 场景迁移到 MJWarp 以实现 GPU 加速。文章展示了从 SO-101 机械臂的 CPU 模拟到 2048 并行 GPU 环境的迁移步骤,包括模型上传、批处理状态复制、CUDA 图捕获和吞吐量测量。迁移后可实现单步从 CPU 世界到 GPU 批处理的并行推进。

    推荐理由:NVIDIA 提供了从 MuJoCo 到 MJWarp 的迁移指南,展示了如何将单个机器人模拟扩展到 2048 个并行 GPU 环境,实现大规模采样。读者可据此在物理 AI 学习工作流中利用 GPU 加速。

  2. AWS Machine Learning Blog60

    HEMA 用 MCP 和 Amazon Bedrock AgentCore 构建内部 AI 助手 HAL

    HEMA 搭建了内部 AI 助手 HAL,将分散的知识库、API 目录和流程文档整合为统一知识层,并通过 MCP 在 Kiro、Claude 等工具中提供即时答案。

    推荐理由:原文给出了一家零售商从门户跳跃到即时答案的完整搭建路径,读者可据此理解 MCP 与 AgentCore 在企业知识层中的实际组合方式。

9月23日周三
9月22日周二
  1. Weaviate Blog72

    Engram 代理记忆实战指南

    Weaviate 发布 Engram 托管记忆与上下文服务,演示如何通过主题描述、边界、作用域与检索模式控制代理记忆。原文给出从 raw 数据到记忆的流水线、主题描述决定记忆内容与形态、bounded 与 scope 的行为差异,以及四种提示词布局下的缓存与计费对比。

    推荐理由:原文通过真实输出演示了四个配置决策如何改变代理的记忆行为,读者可依此调整自己的主题描述与提示词布局。

9月21日周一
  1. Nature · Machine Learning74

    Co-Scientist 等 AI 共同科学家平台正改变研究流程

    Google 开发的 Co-Scientist 通过多个自主智能体搜索文献、生成并筛选假设,帮助生物化学家 Anna Pertl 找到针对 MYC 蛋白的新策略。Frontier AI 实验室与初创公司也在推出类似平台,强调人类提问与判断仍不可替代。

    推荐理由:展示了多智能体协作在科学假设生成中的实际工作流,读者可迁移其‘提问—修正—验证’方法到自身研究场景。

9月18日周五
  1. Google Research62

    Google Research 推出生成式 UI 互动学习实验,教师可定制 STEM 教学模拟

    Google Research 发布基于生成式 UI 的学习互动实验,教师可按课程目标生成定制化互动模拟,覆盖物理、化学、生物和数学中学内容。系统包含分层挑战、脚手架提示与自动校验循环,并已通过教师审核;使用 Google Workspace for Education 的学校可报名 Pilot Program 提供反馈。

    推荐理由:教师可按教学目标生成互动模拟并获得分层提示与自动校验,为差异化教学提供了可迁移的方法路径。

9月17日周四
  1. Microsoft Semantic Kernel62

    从专家代理到基于 MCP 的分布式技能:教程与实测对比

    作者 Tommaso Stocchi 以滑雪度假村演示为例,对比 A2A 专家代理与基于 MCP 的分布式技能两种架构,并给出五步迁移流程。技能路径将专家指令移入编排器,由 SDK 直接加载 SKILL.md 并暴露 MCP 工具;实测显示技能路径模型调用更少(3 次 vs 6-7 次)、延迟更低,但总 token 数反而增加约 22%。

    推荐理由:通过同一应用的 A2A 与 MCP 两种架构对比,给出可迁移的迁移步骤与实测延迟和 token 数据,帮助读者判断是否将专家代理改为分布式技能。

9月16日周三
  1. Together AI40

    从闭源模型迁移到开源模型,Together AI 发布迁移指南

    Together AI 发布从闭源迁移到开源模型(OSM)的策略指南,采用托管服务可将迁移时间从数月/年缩短至数周。指南建议通过定义用例、筛选相关基准(如 FrontierCode、LMArena、τ-bench 等)锁定候选模型,并基于每任务成本、token 消耗和延迟进行对比,最终用真实流量回放做准确性与性能评估。

9月12日周六
  1. GitHub Blog · AI & ML67

    Marketing ops as code:用 GitHub Copilot 自动化从策划到跟进的活动流程

    作者 Tomoko Tanaka 介绍如何将 GitHub Issues、Issue forms、Labels、GitHub Actions 与 Copilot agent skills 组合,把活动落地页生成、UTM 链接、邀请邮件、注册名单清洗、CRM 上传和报告等重复流程自动化。

    推荐理由:作者以第一手经验展示如何用 GitHub Copilot 将重复营销流程自动化,读者可迁移该方法到自身有 API/CLI 入口的重复任务。

9月11日周五
9月10日周四
  1. Hugging Face Blog63

    HF Jobs 上用 LoRA 实现异步 GRPO 训练:一个存储桶、一个代理、无需 NCCL

    TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 适配器仅同步功能,结合 HF Jobs Storage Bucket 挂载,使训练与推理可运行在独立机器上,无需 NCCL。五次实验将 500 步训练从 3h27m 优化至 53min,通过 token 预算批处理和提升并发请求数将瓶颈从训练端转移到生成端。

    推荐理由:通过LoRA适配器仅同步加存储桶挂载,训练与推理可部署在独立HF Jobs上无需NCCL,五次实验将500步训练从3小时27分压缩至53分钟。

9月9日周三
  1. Together AI64

    开源 AI 栈:模型、推理、网关与 Harness 的选型与组合指南

    Together AI 发布开源 AI 栈指南,将栈分为模型、推理、网关与路由器、Harness、工具与上下文管理五层。推荐同时使用大模型(如 Kimi K3,1.8T 总参数)与小模型(如 GLM 5.3 Flash,320B 总参数)处理不同复杂度的任务,并可通过 OpenRouter、Vercel AI Gateway 或 LiteLLM 路由多提供商。

    推荐理由:原文分层拆解开源 AI 栈各层组件与选型思路,开发者可按需组合模型、网关与工具。

9月4日周五
9月3日周四
  1. Hugging Face Blog67

    用 TRL 和 OpenEnv 训练代码生成水彩画模型

    作者用 TRL + OpenEnv 复现 Surya Narreddi 的水彩画训练流水线,全部工件开源并在 Hugging Face 上端到端运行。奖励函数由编译门、代码长度、Qwen3-VL 配对裁判和 HPSv3 美学偏好组成,三组奖励混合(judge-led / hps-led / hps-only)对比显示,裁判权重越高起始奖励越低但最终质量提升越明显。

    推荐理由:原文给出了完整开源流水线和三次奖励对比,读者可据此复现并迁移到其他审美偏好数据集。

  2. Hugging Face Blog69

    用 GRPO 微调 350M 模型提升结构化输出表现

    作者用 GRPO 和 TRL 对 LFM2.5-350M 进行约 100 步微调,在 IFStruct 基准上从 22.6% 提升到 29.7%。方案使用约 500 条样本、3 个奖励函数,并在免费 Colab 或 Kaggle GPU 上可运行,代码已开源。

    推荐理由:原文给出了一套可在免费 GPU 上复现的小模型结构化输出微调方案,读者能直接迁移该奖励函数与数据增强思路。

8月31日周一
  1. Amazon Science60

    Verus:Rust 自动化程序验证工具

    Verus 是开源的 Rust 自动化程序验证工具,可在 Rust 源码中直接添加规约与证明,使用类 Rust 语法并由多种求解器自动 discharge 证明义务。

    推荐理由:原文展示了 Verus 在 Rust 代码验证中的具体用法和自动化能力,读者可据此理解形式化验证工具如何嵌入现有开发流程。

8月26日周三
8月25日周二
  1. Hugging Face Blog67

    Granite 4.2 推理模型构建方法解析

    IBM Granite 4.2 推理模型家族(3B/8B/30B)采用分阶段强化学习流水线构建,支持思考/非思考切换与低思考预算模式。8B 与 30B 经过智能体 RL 训练,可在真实沙盒环境中进行代码编辑、终端操作与网页搜索,训练基于 NeMo-RL 与 NeMo-Gym,最终以 Apache 2.0 许可证开源。

    推荐理由:详细展示了从可验证奖励到智能体环境交互的分阶段强化学习流水线,为构建具备工具调用能力的推理模型提供了可复现的训练框架。

8月18日周二
  1. Hugging Face Blog62

    Dharma AI:GPU管理实践——相同集群提升33个百分点利用率

    Dharma AI发布约束感知GPU分配器,在七种基准场景中对比FIFO调度器,相同硬件与负载下GPU利用率提升最多33个百分点,优先级加权输出最多提升105%。该方法将实时推理视为需求曲线而非固定预留,按优先级跨整个调度 horizon 放置批量任务,并通过22维特征预测训练负载与周需求画像来支撑调度决策。

    推荐理由:同一集群通过调整分配顺序而非更换硬件,实现了最高33个百分点的利用率提升,为企业GPU调度提供了可复用的约束感知方法。

8月14日周五
  1. Hugging Face Blog74

    Strands Robots、LeRobot 与 Hugging Face Storage Buckets 打通录制、训练与部署循环

    Strands Robots 演示了用 Storage Bucket 记录 LeRobot 格式数据、通过字节级去重同步、从 Hub 流式读取训练、再以 mode='real' 部署到物理机器人的完整循环。示例使用 SO-100 机械臂和 mock policy,配套 notebook 在模拟环境即可运行。

    推荐理由:原文给出一条从录制到训练再到部署的完整数据循环,读者可据此判断它会怎样改变现有机器人工作流。

7月23日周四
  1. Vector Institute33

    Mixture-of-Experts:从稀疏路由到多模态部署

    MoE 模型通过路由器为每个 token 动态选择少量专家子网络激活,在增加总参数的同时保持每 token 计算稀疏。文章首先解释路由决策、负载均衡与训练中 specialization 的形成机制,随后报告了在 4 张 A100 GPU 上微调 350 亿参数多模态 MoE 的经验,涵盖 5 种失败的 sharding 方案、最终成功的方法,以及按层路由审计揭示的音频、视频与文本容量分配。

6月17日周三
5月29日周五
  1. Together AI78

    Together AI 构建最快语音转文本栈的方法

    Together AI 详细介绍了其生产级 ASR 栈的优化,覆盖 TensorRT 多 profile 编码器、无 CPU 同步的条件 CUDA 图解码器、共享内存与 Unix 域套接字零拷贝路径、epoll 事件驱动流式 I/O,以及 gc.freeze() 消除 p95 延迟尖峰。

    推荐理由:原文给出多层次系统优化路径,读者可据此评估自身 ASR 延迟瓶颈是否落在数据路径而非模型本身。

5月19日周二
3月11日周三
  1. Mistral AI42

    基于 Vibe 构建 Rails 测试代理:让代理自动编写开发者不愿写的测试

    基于 Mistral 开源编码助手 Vibe 构建了一个自主代理,能自动读取 Rails 源文件并生成或改进 RSpec 测试,在 CI/CD 流水线中无人干预运行。通过 AGENTS.md 上下文工程和按文件类型分类的 SKILLS 文件,质量分数从 0.68 提升到 0.74。该代理并行处理多个文件,并自动管理 factories 和 fixtures 等共享上下文,避免测试遗漏。

1月22日周四