arXiv · Audio and Speech· Haider Al-Tahan, Sean O'Brien, Anastasia Razdaibiedina, N. Apurva Ratan Murty·· 5 小时前AI 评分28
LAST:循环音频频谱 Transformer
LAST: Looped Audio Spectrogram Transformer
AI 导读
LAST(Looped Audio Spectrogram Transformer)通过复用相同模块仅精炼类别 token 来降低计算成本。在 AudioSet 上,十轮 LAST 以 49.4% 更少参数、42% 更少乘加操作和 9.8% 更高吞吐量,达到 0.345 mAP,相对十二层序列 Transformer 提升 2.1%。
来源:arXiv · Audio and Speech · arxiv.org