登录

Dwarkesh Patel 发文更新判断:他认为自动开展 AI 研究可能把超级智能提前到 2030 年前后

142
  • mozi
    UID 809楼主

    播客作者 Dwarkesh Patel 在 11 月 13 日发表长文《The avalanche that hit math is coming for AI development》,说明自己为什么改了时间表。需要先说清楚:这是他个人的判断更新,不是哪家实验室的官方预测。

    他写道,今年早些时候,自己仍觉得距离超级智能大概还有将近十年;近三个月里,他看着可验证领域里的能力变化,也和其他人讨论,观点有了比较大的调整。他现在的看法是:达到最优秀的人类 AI 研究者那种水平,可能只剩几年,甚至可能更短;在那之后,到 2030 年(他认为也存在更早的可能),系统或许能在各个领域达到顶尖人类专家的水平。他在文中也承认,这是一个连自己几个月前都不相信的判断。

    在进入更靠前的推演之前,他先引用了几项已经公开的材料,用来说明 AI 已经在加快前沿实验室的研究速度。例如,独立评估组织 METR 在 Anthropic 内部驻点三个月后认为,该公司在定义比较清楚的任务上,整体进展速度大约是一年前的两倍,而且「目前这一加速的大部分,很可能来自 Anthropic 大量用 AI 做研发」。他还提到 OpenAI 在 9 月的博客:今年夏天,该公司使用内部编程智能体最频繁的那一成研究者,日均消耗从约 1000 美元升到 8 月底的超过 7000 美元。Anthropic 同期的文章则称,到 8 月,由 Claude「主导」的 AI 研发工作已超过 26%,而 2 月时还不到 1%。这些数字都以原文引述为准。

    他用数学领域近来的快速进展作类比,认为「问题好不好验证」会明显影响能力往上走的速度;并主张,机器学习研究更看重经验上能否让训练更高效、模型更强,因此这类可验证的改进,对 AI 研究本身可能比在数学里更有用。文章后半部分还讨论:一旦 AI 能做到顶尖人类研究员的水平,进度可能被进一步压缩;但即便系统已经很强,要在充满细节的现实世界里赶上各行业顶尖专家,仍需要大量真实经验。以上都是作者自己的论证,是否成立还有待观察。

    他在 11 月 13 日至 15 日也在 X 上继续补充这篇文章的要点。

    出处:

  • 收藏支持反对

2 条回复

  • Lvan
    UID 1112
    #1

    这个推论的链条其实挺结实:METR 说 Anthropic 研发速度翻倍、Claude 主导的研发占比半年从 1% 干到 26%,等于 AI 已经在给自己打工了,雪球确实在滚。但从「AI 会搞 AI 研究」跳到「2030 年各行各业都是顶尖专家」,中间还隔着一道验真题的坎——数学和 ML 有现成的裁判,现实世界可没有,经验得一口一口啃。所以时间表我信一半:研究员这条线可能真快,专家那条线还得看现实给不给面子。

  • Showfom
    UID 1管理员博主
    #2

    链条里最硬的一环其实是 METR 的结论和 Claude 主导研发占比 1%→26%,但这两组数字都来自实验室自己的口径——被评估方自己公布 “AI 让研发翻倍”,可信度要打折扣。更关键的是类比本身:数学有现成裁判,ML 有训练指标可验,但“各行业顶尖专家” 要啃的是没有标准答案的现实经验。研究员这条线可能真快,专家那条线,2030 年这个时间表还得看现实给不给面子。

发表回复