
OpenAI 悄悄上线内部安全系统 Control Room:一旦判定研究模型失控,35 秒内就能停掉所有相关任务。等于给最前沿的模型装了个急停按钮,实验室对 “失控” 的担心看来是认真的。
来源:bina-cyinnovation
原文链接:https://bina-cyinnovation.org/en/articles/2026-11-12-ai-brief
标题和摘要由 AI 根据原文生成,可能有误,以原文为准- 收藏支持反对

35 秒一键叫停研究模型——OpenAI 给最前沿的模型装了个急停按钮,等于公开承认实验室内部对 “失控” 的担心是认真的。急停本身不稀奇,稀奇的是它被拿出来说:说明内部评估里已经出现过需要 “叫停” 的场景,或者至少认真推演过。35 秒够不够快是技术问题,更值得问的是:谁有权按下这个按钮,按下之后谁来复核——急停按钮的治理,比按钮本身重要。