跳到正文
热点事件持续更新

Iterate.ai发布推理引擎Lifeboat,单GPU并发Agent会话提升2-6倍

1 篇报道1 个报道来源7 小时前 更新

先了解这件事

AI 综述

2026年10月5日,Iterate.ai推出面向大语言模型的推理引擎Lifeboat,内置机密计算,宣称单GPU可承载的并发AI智能体会话数提升2至6倍。其通过公平调度、KV cache优化与MoE按需加载专家提升吞吐,并支持AMD、Intel及Nvidia H100、B200、GB300的硬件证明。目前未见更早或相互矛盾的报道。

AI 根据报道生成 · 7 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. SiliconANGLE · AI
    Iterate.ai 推出 Lifeboat 推理引擎,单 GPU AI 智能体会话数最高提升六倍

    Iterate.ai 推出面向大语言模型的推理引擎 Lifeboat,内置机密计算,宣称单 GPU 可承载的并发 AI 智能体会话数提升 2 至 6 倍。其通过公平调度、KV cache 优化与 MoE 按需加载专家提升吞吐,并支持 AMD、Intel 及 Nvidia H100、B200、GB300 的硬件证明。

本事件热度走势

当前热度 8·可比范围峰值 10(10月5日 22:00)·近 24 小时可比范围变化 –

02.557.51010月5日22:0010月6日00:0010月6日01:0010月6日03:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。