跳到正文
热点事件持续更新

ThinQuant:可扩展旋转学习用于LLM权值与激活量化

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

2026-09-30,arXiv 发表 ThinQuant,提出数据选择与精确降维优化,将旋转校准所需数据降至数个数量级。在 Llama-3-70B W4A4KV4 设置下,校准仅需 12 分钟,WikiText-2 困惑度 5.63;对比 DartQuant 需 111 分钟、困惑度 7.55。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. arXiv · Machine Learning
    ThinQuant:通过可扩展旋转学习实现大语言模型权重与激活量化

    ThinQuant 提出数据选择与精确降维优化,将旋转校准所需校准数据降至数个数量级,并在 Llama-3-70B W4A4KV4 下 12 分钟完成校准、WikiText-2 困惑度 5.63(DartQuant 需 111 分钟、7.55)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。