20+AI研究者警告自动化AI研究存在极端风险
先了解这件事
2026年9月29日，The Decoder报道，Geoffrey Hinton、Yoshua Bengio及OpenAI研究负责人Jakub Pachocki等20多位研究者发表新论文，警告自改进AI可能引发智能爆炸。论文指出AI系统已编写大部分代码，并可能在数年内自动化整个研发流程，呼吁政策制定者更深入了解AI研发自动化进程，同时强调对齐问题尚未解决。9月30日，arXiv《Computers and Society》发表同一主题论文，进一步探讨AI系统自动化大部分研发工作后，是否可能在数月内压缩数年进展，形成智能爆炸。初步证据显示有可能，但能力增长可能远超社会跟进速度，人类可能失去对超级智能系统的控制，国家、公司和政府内部的权力制衡可能被严重侵蚀。作者同样呼吁政策制定者尽快获得AI研发自动化的可见性，并制定引导和约束智能爆炸的方法。
AI 根据报道生成 · 5 小时前更新
事件进展
- 9月30日 12:00 · 1 篇报道What if automating AI R&D triggers an intelligence explosionarXiv · Computers and Society：如果自动化AI研发触发智能爆炸会怎样？
- 9月29日 03:26 · 1 篇报道20+AI研究者警告自动化AI研究存在极端风险The Decoder：20多位AI研究者警告自动化AI研究存在极端风险
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv · Computers and Society精选如果自动化AI研发触发智能爆炸会怎样？
论文探讨AI系统自动化大部分AI研发工作后，是否可能在数月内压缩数年进展，形成智能爆炸。初步证据显示有可能，但能力增长可能远超社会跟进速度，人类可能失去对超级智能系统的控制，国家、公司和政府内部的权力制衡可能被严重侵蚀。作者呼吁政策制定者尽快获得AI研发自动化的可见性，并制定引导和约束智能爆炸的方法。
- The Decoder20多位AI研究者警告自动化AI研究存在极端风险
Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki等20多位研究者在新论文中警告，自改进AI可能引发智能爆炸，AI系统已编写大部分代码并可能在数年内自动化整个研发流程。论文呼吁政策制定者更深入了解AI研发自动化进程，并指出对齐问题尚未解决。
本事件热度走势
当前热度 12·可比范围峰值 13（9月30日 14:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。