arXiv · Machine Learning Theory· Fabien Furfaro·2026-10-12 12:00· 2 小时前AI 评分16

Kairos：面向全模态的字节级基础模型

Kairos: Toward a Byte-Level Foundation Model for Every Modality

AI 导读

Kairos 提出一种面向文本、图像、音频、视频、lidar 与控制流的字节级基础模型，结合 LiZAttention2、块级 Attention-Residual 聚合、稀疏 MoE 前馈层与多尺度字节级编解码器，用统一噪声去噪目标训练。