跳到正文
v1.3.09月30日 · 周三

最新精选

9月29日周二
  1. Apple Machine Learning Research62

    通信瓶颈:语言模型中树结构表达式序列化的往返研究

    Apple ML 团队提出往返协议评估 16 个模型对树结构算术表达式的序列化与恢复,发现通道失真且不对称,最佳模型对组合可达 92.9%,约 73.6% 失败源自生成端,结构难度主导而非模型族,约 3600 条微调样本即可让开放权重模型超越未训练 Gemini-3.1-Pro。

    推荐理由:通过生成与提取的往返协议揭示模型间序列化树结构的失真瓶颈,为改进模型通信提供可量化依据。

9月21日周一
  1. Hugging Face Blog62

    像物理学家一样剪枝大语言模型:块移除作为约束二元优化问题

    Multiverse Computing 将 LLM 深度剪枝重构为约束二元优化问题,等价于全耦合伊辛自旋玻璃,用 Hessian 能量作为下游质量代理,避免逐条评测。

    推荐理由:把深度剪枝重新表述为伊辛自旋玻璃优化问题,可用廉价能量代理替代逐条评测,且与量化、低秩压缩等手段堆叠。

9月16日周三
  1. Google Research62

    Retrieve-for-Train:绕过推理瓶颈,加速复杂AI搜索

    Google Research提出Retrieve-for-Train框架,用离线强化学习发现属性对齐的查询扩展并编译为监督信号,再蒸馏到53.9M参数的扩散检索器,实现单次非自回归查询扇出。实验显示该方法在开放抽象检索和弱监督组合检索上均优于单查询搜索、零样本扩展和Best-of-N基线,同时实现12–20倍的推理加速。

    推荐理由:用离线RL把查询分解编译成监督信号,再注入轻量扩散检索器,在保持集合级属性的同时把推理延迟压低一到两个数量级。

9月10日周四
  1. Amazon Science72

    机器学习研究智能体为何不过拟合:压缩与泛化

    Amazon Science 博客介绍论文《What fits (into few tokens) doesn't overfit》,通过 LLM 智能体在 8 个数据集上的实验表明。

    推荐理由:通过可重置的LLM实验为机器学习研究智能体为何不过拟合提供了压缩性解释,并给出可复现的验证方法。

9月8日周二
8月27日周四
  1. Amazon Science62

    当 LLM 评判者一致时,我们该相信吗:基于 Ising 模型的依赖感知聚合方法

    Amazon Science 提出基于 Ising 模型的依赖感知聚合方法,在相关性、毒性、摘要三任务上相对加权多数投票提升 9%–14%。该方法通过建模评判者之间的成对依赖关系,在无监督设置下利用评估日志中的同意与分歧模式调整聚合权重。

    推荐理由:原文给出了依赖感知聚合方法与多数投票的对比结果,读者可据此判断是否需要重新审视现有 LLM-as-a-judge 评估流程。

8月25日周二
  1. Hugging Face Blog66

    Quantization-Aware Healing:压缩后的 4 位模型超越全精度原版

    Multiverse Computing 提出 QAH 方法,对 GPT-OSS 120B 压缩至 60B 并量化至 MXFP4 后,在 9 项基准中 7 项超越原 bfloat16 检查点,并在 LiveCodeBench 上超过 120B 原版教师模型。

    推荐理由:原文给出了压缩-量化-恢复流程的对比,读者可据此判断 QAH 在训练稳定性与推理成本上的实际收益。

8月21日周五
  1. Hugging Face Blog70

    语音识别的基准优化测量方法研究

    Hugging Face 提出三种测试量化语音 ASR 模型的基准优化行为,评估了 11 个开源模型,发现高分模型在 VoxPopuli 和 LibriSpeech 上会复现基准错误转录、恢复被掩码数字,并依据声学线索切换拼写变体。相关脚本和未归一化输出已开源。

    推荐理由:原文给出三种可复现的测试方法,读者可据此自行评估语音模型在真实场景中的泛化能力。

8月13日周四
  1. Hugging Face Blog82

    Hugging Face 复现 ICML 2026 两千篇论文:社区发现近半数论文存在可复现性问题

    Hugging Face 在 2026 年 7 月 15 日至 8 月 2 日发起 ICML 2026 Open Reproductions 挑战,1,221 名社区成员使用 Claude Code、Codex、Cursor 等智能体复现了 2,226 篇论文(占会议 34%),发布 6,816 本 Trackio 日志。

    推荐理由:大规模复现挑战揭示了AI论文可复现性的真实状况,为理解智能体在学术审核中的实际能力与边界提供了关键事实。

8月12日周三
  1. Google Research66

    空货架还是丢失的钥匙?回忆是参数化事实性的瓶颈

    Google Research 提出知识剖析框架,发现前沿大模型的事实性错误主要源于回忆失败而非知识未编码。WikiProfile 基准包含 2,150 条维基百科事实,每个事实配 10 个问题,评测了 13 个 LLM 约 450 万条响应。

    推荐理由:该研究将大模型的 factual error 重新定义为 recall 失败而非 encoding 失败,并证明思考机制可恢复约四成到六成已编码但无法直接提取的事实。

  2. Microsoft Research64

    CARE-X介绍:面向临床有用的放射学视觉语言模型

    CARE-X是微软研究介绍的胸部X光统一视觉语言模型,结合生成式报告与结构化预测并通过DAPO奖励对齐学习优化临床正确性。该模型在ReXVQA基准达到94%准确率,并在印度Narayana Health临床数据上验证了罕见ICU病理检测效果。工具增强测量实验显示,Qwen3-VL-4B-Instruct结合确定性计算工具后,测量依赖条件的F1平均提升43.6个百分点。

    推荐理由:CARE-X通过联合训练生成与判别能力,在统一模型中实现灵活报告生成与校准预测,为放射学人工智能提供了可迁移的多任务优化方法。

8月10日周一
  1. Hugging Face Blog62

    高效知识蒸馏:离线 Top-K Logits 与融合分块 KL 损失

    Multiverse Computing 提出高效知识蒸馏方法,通过缓存教师模型 top-100 logits 与融合分块 KL 损失,避免构建全词汇表×序列矩阵,在单 H200 上把峰值显存从约 250GB 降至约 58GB,并在 32K 上下文下把蒸馏从四卡节点缩至单卡。代码已开源:github.com/CompactifAI/Full-Chunked-KL-Loss

    推荐理由:通过缓存 top-K logits 与融合分块 KL 损失两条改动,把蒸馏显存占用压到单卡可跑,为长上下文蒸馏提供了可复现的低成本路径。

7月31日周五
  1. Google Research72

    Science One Framework:基于 Chain-of-Evidence 的可验证自主研究框架

    Google Research 提出 Science One Framework 与 Chain-of-Evidence(CoE)审计框架,在 75 篇生成论文上验证自主研究系统的可验证性。Science One Framework 在五个 ADRS 任务上实现零幻影引用、完全可复现得分,并在 MLE-Bench 与 Parameter-Golf 上达到 SOTA。

    推荐理由:通过引入可验证证据链框架,为自主研究系统的可信度提供了可量化的审计方法。

7月26日周日
  1. Berkeley AI Research60

    ABBEL:教大语言模型更新信念以实现高效长程交互

    Berkeley AI Research 提出 ABBEL 框架,将交互历史压缩为自然语言信念状态,并通过信念评分监督信念内容。在 CollabBench 协作编程中,ABBEL 恢复约一半全上下文性能差距,峰值上下文 token 数降至约 4.2 万,训练步数减半;在 Combination Lock 游戏中,结合领域知识的信念评分可接近或超越全上下文模型。

    推荐理由:通过将摘要隔离为可监督的信念状态,在协作编程和组合游戏中以更少训练步数和更低显存缩小了与全上下文模型的性能差距。

7月23日周四
  1. Google Research65

    SymptomAI:迈向日常症状评估的对话式AI代理

    Google Research发布SymptomAI研究,基于Gemini Flash 2.0通过13,917人随机实验表明临床医生在超50%情况下更偏好其鉴别诊断,且主动询问策略显著优于被动回答。

    推荐理由:该研究通过一万三千余人的随机对照实验,为对话式AI症状评估提供了与临床医生横向比较的基准数据,并揭示了主动询问策略对诊断准确性的提升作用。

  2. Google Research61

    Google Research在Nature发表量子纠错强化学习框架

    Google Research在Nature发表强化学习框架,使量子计算机能在运行中持续自我校准。在Willow处理器上,该方法将逻辑稳定性提升3.5倍,逻辑错误率在专家校准后再降20%,表面码和颜色码分别达到千次和百次纠错周期内少于一次逻辑错误的纪录水平。数值模拟表明所需RL训练迭代次数与系统规模无关。

    推荐理由:Google Research在Nature发表强化学习框架,使量子计算机能在运行中持续自我校准,将逻辑错误率降至纪录低点。

6月5日周五
  1. Google Research66

    Google Research发布PHRM系统:通过智能手机摄像头实现被动心率监测

    Google Research在Nature发表PHRM研究,通过智能手机前置摄像头在日常使用中被动监测心率,跨肤色MAPE<10%,RHR估计MAE<5bpm达到可穿戴设备精度。研究基于35万+视频片段和近700名多样本参与者,覆盖浅色到深色皮肤群体,并公开了最大规模智能手机视频数据集及预训练PHRM-mini模型供合格研究者申请。

    推荐理由:PHRM在大规模日常使用中实现跨肤色符合行业标准的心率监测,MAE低于5bpm的RHR估计达到可穿戴设备水平,为智能手机被动健康追踪设立了新基准。

4月16日周四
  1. Google Research60

    MoGen:基于点云流匹配的神经元形态生成以加速脑连接组重建

    Google Research发布MoGen模型,通过点云流匹配生成合成神经元形态,用于训练PATHFINDER重建模型。加入10%合成数据后,鼠轴突重建错误率降低4.4%,主要减少合并错误,在全鼠脑规模上相当于节省157人年人工校对。MoGen及物种特异性模型已开源。

    推荐理由:用合成神经元训练PATHFINDER,将重建错误率降低4.4%,在全鼠脑规模上相当于节省157人年校对工作。

4月1日周三
  1. Google Research62

    构建更好的 AI 基准:多少标注者才够用?

    Google Research 提出森林与树的(N,K)权衡框架,研究在固定预算下标注条目数与每条目标注者数量的最优配比。实验基于毒性、DICES、D3code、Jobs 等真实主观数据集,发现每条目 3–5 个标注者常不足、多数票用广度策略、意见分布用深度策略,并开源了模拟器。

    推荐理由:给出了(N,K)权衡的模拟框架和开源工具,读者可据此在有限预算下设计更可复现的评估方案。

11月1日周六
  1. Berkeley AI Research62

    无需 TD 学习的强化学习:分治范式与 Transitive RL

    Berkeley AI Research 提出不基于时间差分(TD)学习的强化学习算法,采用分治策略将轨迹递归拆分为子段,以对数级减少 Bellman 递归并缓解误差累积。

    推荐理由:提出非TD学习的分治式RL范式,在长 horizon 任务上展示了可扩展性,读者可借此了解值函数学习的新方向。

已经到底了