arXiv · Computer Vision· Hailun Xu, Kanchan Sarkar·· 16 小时前AI 评分26
ViTok：用 PHI-S 与掩码图像建模改进 AM-RADIO 式多教师蒸馏的密集语义
ViTok: Improving Dense Semantics in AM-RADIO-Style Multi-Teacher Distillation with PHI-S and Masked Image Modelling
AI 导读
ViTok 将 AM-RADIO 式学生模型（由 SigLIP2 与 DINOv3-L 蒸馏）整合为兼顾全局识别与密集语义的多教师蒸馏方案，采用 CLS/patch 分离适配头、非对称 cosine/MSE 损失、DINOv3-L 初始化、教师重加权、MIM 与 PHI-S 特征平衡。
来源：arXiv · Computer Vision · arxiv.org