PyTorch Blog· Cody Mazza-Anthony, Sr. Staff Machine Learning Engineer, @cmazzaanthony & Andrew McNamara, VP Machine Learning, @drewch·· 8 天前精选AI 评分83
Shopify 用 PyTorch 和 vLLM 构建持续学习闭环
How Shopify built a continual learning loop with PyTorch and vLLM
AI 导读
Shopify 展示了如何用 PyTorch 和 vLLM 把生产失败压缩进模型权重，每天迭代并超越前沿模型，同时把服务成本降低 96%。流程包括：定义质量并校准评审器、用 autoresearch 优化 harness、从生产流量中挖掘难例并由前沿推理模型生成训练信号，再通过 SFT 和 GRPO 把修复轨迹写回权重，最后用 Gist 压缩系统提示以降低延迟和成本。
推荐理由
原文给出了从质量定义到自愈流水线的完整方法链，读者可据此理解如何把生产失败转化为模型参数更新。
来源：PyTorch Blog · pytorch.org