arXiv · Computers and Society· Li Gan·· 3 小时前AI 评分31
风险上限与开发期限:在安全生产力不确定下为 AI 设定节奏
Risk Ceilings and Development Deadlines: Pacing AI under Uncertain Safety Productivity
AI 导读
论文探讨监管方能否在安全生产力未知时同时承诺风险上限与开发期限,指出上限低于最终模型未受保护风险需以最低安全知识存量为前提,仅在能排除弱研究时两项承诺才同时成立。校准显示先学习再重放开发并预留安全算力,在仅有状态风险、恒定安全产出与完全知识转移下,仅需比必要边界多 3.3% 的生产力。规则若固定算力分配,固定的是日期而非风险。
来源:arXiv · Computers and Society · arxiv.org