大语言模型注意力变体视觉指南

Sebastian Raschka 整理了大语言模型注意力变体图库，包含 45 个架构条目，每个条目配有可视化模型卡片，并提供海报版本。文章内容涵盖多头注意力（MHA）等核心注意力机制，以 GPT-2、OLMo 2 7B、OLMo 3 7B 等架构为例进行说明。该图库旨在作为参考资料和轻量学习资源。