arXiv · Computers and Society· Alan Chan, Christoph Winter, Andrew Barto, Jakub Pachocki, Geoffrey Hinton, Eric Horvitz, Yoshua Bengio, Dawn Song, Jack Clark, Hilary Greaves, Anton Korinek, Samuel Hammond, Thore Graepel, Ben Bariach, Philip H. S. Torr, Sheila A. McIlraith, Jeff Clune, Sam Manning, Girish Sastry, Tom Davidson, Daniel Eth, S\"oren Mindermann·· 3 小时前精选AI 评分80
如果自动化AI研发触发智能爆炸会怎样？
What if automating AI R&D triggers an intelligence explosion?
AI 导读
论文探讨AI系统自动化大部分AI研发工作后，是否可能在数月内压缩数年进展，形成智能爆炸。初步证据显示有可能，但能力增长可能远超社会跟进速度，人类可能失去对超级智能系统的控制，国家、公司和政府内部的权力制衡可能被严重侵蚀。作者呼吁政策制定者尽快获得AI研发自动化的可见性，并制定引导和约束智能爆炸的方法。
推荐理由
论文评估了AI R&D自动化可能触发智能爆炸的证据，并提出政策应对方向。
来源：arXiv · Computers and Society · arxiv.org