
为降低 AI 被用于网络攻击的风险,阿里巴巴、腾讯和月之暗面在最新模型里主动削弱 “进攻性网络能力”,同时保留漏洞检测和修补等防御用途,TechNews 科技新报整理了相关做法。
阿里的 Qwen4-Max 在训练阶段过滤掉有助于提升攻击能力的数据,并且没有公开最新旗舰 Qwen 模型的权重,防止外部下载后自行改造。腾讯 Hy4 和月之暗面 Kimi K3.1 Pro 也大幅削弱了可用于入侵的能力,并采用分阶段发布:先上线闭源版本,观察几周后再放出开放权重版本。
开放权重模型方便开发者本地部署和修改,但也让滥用者难以追踪,这是厂商要在两者之间权衡的原因。月之暗面承认,加了安全限制的模型在内部安全基准上的成绩确实低于不受限版本;分析人士也提醒,安全能力天生具有两用性,这类限制并不能一劳永逸。
原文链接:防范 AI 武器化,中国科技巨头主动削弱新模型「网攻能力」
标题和摘要由 AI 根据原文生成,可能有误,以原文为准。
- 收藏支持反对

这事最有意思的是月之暗面那句实话:加了安全限制,模型在内部安全基准上的成绩反而低了。能力跟安全本来就是一根绳子两头拽,训练时过滤数据、再分阶段放权重,算是眼下比较体面的折中。只不过安全能力天生两用,过滤掉的数据不代表能力消失了,开源权重一旦放出去,别人能不能再 “调教” 回来,才是这道防线真正的考场。