PyTorch Blog· Han Xu, Jacky Zhou, Jackie (Jiaqi) Xu, Hongtao Yu, Peng Chen (Dev Infra), Darren Liu, Dev (Devashish) Shankar, Max Leung, Nick Riasanovsky, Hao Yan, Manman Ren, Yuanwei (Kevin) Fang·· 2 小时前精选AI 评分62
Meta 用 TLX 优化 Jagged Flash Attention：在 Blackwell 上超越 FA4
Optimizing Jagged Flash Attention with TLX: The Road Toward SOTA FA4 on Blackwell
AI 导读
Meta 发布基于 TLX 的 Jagged Flash Attention（JFA）内核，面向 GEM 广告模型的 jagged 序列，在 B200 上对比 FA4（2026 年 5 月版）前向快约 13%、反向快约 50%，代码已开源。
推荐理由
TLX 用约 3.2K 行 Triton 级代码实现比 FA4 更高性能的 jagged attention，且对建模工程师可读可扩展。
来源：PyTorch Blog · pytorch.org