
曾任职于 OpenAI 和 Anthropic 的研究员雅各布 · 考克森称,Anthropic 今年春季推出的 Mythos 并非偶然突破,而是算法效率超指数提升趋势中的一个节点;如今重新训练该模型,只需最初训练时的一小部分算力。他在 Anthropic 工作约四个月后离职,原因之一是公司 IPO 路演中一张采用压缩坐标轴的训练算力需求图表:即便需求增长 10 倍和 100 倍,图上差别也不大,曲线仍急剧上升。他认为这表明算法效率正在加快提升,并称算法改进即将自动化,因此主张明年暂停前沿 AI 模型研发,让竞争对手赶上,使人类水平智能成为可广泛获取的商品,受影响的主要是 OpenAI 和 Anthropic。考克森今年 9 月曾公开警告,能够不断自我改进的先进 AI 最终可能脱离人类控制。
来源:IT 之家
原文链接:https://www.ithome.com/1/027/221.htm
标题和摘要由 AI 根据原文生成,可能有误,以原文为准。
- 收藏支持反对
- 暂无回复