arXiv · Statistics Machine Learning· Manuel H\"ulskamp, Julius Kobialka, Emanuel Sommer, Thomas Nagler, David R\"ugamer·· 3 小时前AI 评分31
PFN 如何摊销贝叶斯推理：先验数据拟合网络的近似质量分析
How Well Do Prior-Data Fitted Networks Amortize Bayesian Inference?
AI 导读
研究将先验数据拟合网络（PFN）的部署误差分解为先验、上下文与摊销误差，并在真实先验下对照参考后验预测分布（PPD）评估摊销误差。结果显示 PFN 通常能很好地恢复目标 PPD，但在先验预训练分布中的稀有设置下仍存在残余摊销误差，即使扩大模型规模也会导致独立预训练的 PFN 之间出现分歧。研究测试多种贝叶斯模型平均方法，可持续降低不确定性并提升预测，效果可媲美全尺寸 TabICLv2 模型。
来源：arXiv · Statistics Machine Learning · arxiv.org