20多位AI研究者警告自动化AI研究存在极端风险

Geoffrey Hinton、Yoshua Bengio和OpenAI研究负责人Jakub Pachocki等20多位研究者在新论文中警告，自改进AI可能引发智能爆炸，AI系统已编写大部分代码并可能在数年内自动化整个研发流程。论文呼吁政策制定者更深入了解AI研发自动化进程，并指出对齐问题尚未解决。