纳德拉呼吁AI设紧急制动并假设模型已被攻陷
Get the story
2026年10月11日，微软CEO萨提亚·纳德拉在X平台发文，先提出AI需重新评估信任架构，不能把超级智能当作嵌套黑箱来接受或拒绝其建议、答案与行动，并呼吁为AI模型设置“紧急制动”机制。随后他进一步主张必须假设所有AI模型均已“被攻陷”、从一开始就加以隔离，授权人员应能在任务中途随时暂停或关闭模型；他还要求建立更透明体系，使模型可被隔离、可被观测，并留下防篡改的人类可读证据，建议及时披露事故、独立审计与可验证数据，更先进的模型需标准化更先进的隔离技术。目前报道仅涉及纳德拉表态，未提及微软后续措施或行业回应。
Generated from reports · updated 3 hr ago
Timeline
Follow the coverage from different angles.
- The Verge · AISatya Nadella：应假设所有 AI 模型均已“被攻陷”
Microsoft CEO Satya Nadella 在 X 平台发文，呼吁为 AI 设置“紧急制动”，并主张必须假设模型已被攻陷、从一开始就加以隔离，授权人员应能随时在任务中途暂停或关闭模型。他批评当前 AI 是一套“嵌套的黑箱”，要求建立更透明的体系，让模型可被隔离、可被观测，并留下防篡改的人类可读证据。其建议还包括及时披露事故、独立审计与可验证数据，更先进的模型需要标准化更先进的隔离技术。
- TechCrunch · AI微软 CEO Satya Nadella：AI 模型需要「紧急制动」
微软 CEO Satya Nadella 在 X 发文称，AI 需要重新评估信任架构，不能把 Super Intelligence 当作嵌套黑箱来接受或拒绝其建议、答案与行动。
Heat trend
Current heat 17·Comparable peak 18（Oct 11）·Comparable change over 24 hours –
The trend compares only the same participants observed continuously; its range may be smaller than the current heat count. Move or click on the chart to inspect hourly heat; use the left and right arrow keys to switch.