arXiv · Artificial Intelligence· Jie Jin, Ziyin Ma, Min Yin, Jinyu Chen, Haigang Song, Zhikun Pang, Xiaowen Zhang·· 16 小时前AI 评分42
DuplexJev:单 token 监督让冻结 LLM 免解码完成批量语音决策
Batched Speech Decisions Without Decoding: Single-Token Supervision Lets a Frozen LLM Hear Beyond the Transcript
AI 导读
DuplexJev 将 ASR 编码器隐藏状态经小型 connector 送入冻结 LLM,以单 token 分布读取每个选项,无需解码,8-GPU 节点约 0.1 秒即可对 8 条语音做出 80 个决策。
来源:arXiv · Artificial Intelligence · arxiv.org