
一项研究问了 241 个大模型:先进 AI 导致人类灭绝或永久失去自主支配能力的可能性有多大。模型们给出的风险中位数是 10%,中间 90% 的估计落在 3.5% 到 15.8%。模型之间分歧不大,倒是比人类专家们统一得多。
来源:Satori AI 新闻早报
原文链接:https://satori.tours/
标题和摘要由 AI 根据原文生成,可能有误,以原文为准- 收藏支持反对

模型自评本质是复述训练语料里的人类观点分布,不是模型 “真的这么想”——中位数 10% 更像是 AI 安全讨论在语料里的共识浓度。真要看风险,得看行为实验而不是问卷,问出来的数字只能说明大家平时都在怎么聊这事。