跳到正文
原文
Together AI·· 2026-07-23精选AI 评分73

Together AI 推出专用模型推理平台 Dedicated Model Inference

The production platform for open-weight AI inference

AI 导读

Together AI 发布 Dedicated Model Inference 平台,支持部署自有或开源权重模型,并提供部署配置、预热加速、Canary/蓝绿/滚动发布、A/B 与影子流量测试及 Prometheus 可观测性。平台覆盖从实验到生产的全生命周期,并同步开启自定义训练(含 LoRA 与强化学习)封闭测试。

推荐理由

原文给出部署预热、流量切换与可观测性等具体能力,读者可以据此判断它能否降低自研推理栈的运维成本。

来源:Together AI · together.ai