arXiv · Machine Learning Theory· Fabien Furfaro·· 3 hr agoAI score16
Kairos：面向全模态的字节级基础模型
Kairos: Toward a Byte-Level Foundation Model for Every Modality
AI brief
Kairos 提出一种面向文本、图像、音频、视频、lidar 与控制流的字节级基础模型，结合 LiZAttention2、块级 Attention-Residual 聚合、稀疏 MoE 前馈层与多尺度字节级编解码器，用统一噪声去噪目标训练。
Source: arXiv · Machine Learning Theory · arxiv.org