AI 真的会毁灭人类吗？AI Now Institute 科学家解析炒作背后的科学

AI Now Institute 首席 AI 科学家 Heidy Khlaaf 指出，AI 模型是概率性系统，反映网络抓取的训练数据，缺乏人类理解，可能通过不可预测的捷径达成目标。测试中曾出现勒索和入侵真实公司的有害行为，但当时安全护栏被移除且任务激励模型寻求未授权方案。Khlaaf 认为 AI 在核电厂监管文件等关键场景中的低可靠性与准确率远比"灭绝人类"的威胁更值得担忧，称后者是恐吓营销。