AI 如何消灭人类？一份文明风险的失效模式分析

文章提出一个失效模式框架，分析先进 AI 如何导致人类灭绝、不可逆的文明崩溃或永久性人类失权。核心论点是灾难性 AI 风险无需意识、敌意或明确伤害意图，而可能经由自主失对齐、有害人类使用、组织失效与竞争性部署等路径相互作用产生。其严重性取决于能力、自主性、外部访问、持久性、制度保障与恢复能力保存等因素。