跳到正文
原文
arXiv · Audio and Speech· Yifan Yang, Xiaoyu Yang, Zengrui Jin, Xian Shi, Yuxuan Wang, Yu Xi, Ziyang Ma, Qi Chen, Ruiyang Xu, Hui Wang, Dongchao Yang, Jin Xu, Xie Chen·· 7 小时前AI 评分42

Pruned CTC:面向大词汇量 ASR 训练的内存高效连接时序分类方法

Pruned CTC for Memory-Efficient Large-Vocabulary ASR Training

AI 导读

Pruned CTC 通过将对齐计算限制在目标 token 与 blank 的并集子集,同时保留全词汇归一化,证明词汇缩减在损失和梯度上等价于标准 CTC。实验显示,在 Zipformer-M 编码器和 180K 词汇下,全步内存降低 5.1×,步时仅增加 17%。

来源:arXiv · Audio and Speech · arxiv.org