登录

OpenAI 推出 CSAM 图像分类器并免费开放 API,ChatGPT 违规提示直接封号 24 小时

111
  • Showfom
    UID 1管理员楼主博主

    据 TechCrunch 报道,OpenAI 发布一套打击儿童性虐待内容(CSAM)的工具。新的图像分类器与美国国家失踪与受剥削儿童中心(NCMEC)合作开发,能识别此前未见过的图片,包括 AI 生成的内容,并给出评分供审核员参考;OpenAI 通过 API 向部分公司免费开放,并经 Tech Coalition 和 ROOST 扩大共享。早期测试中,它在找出同样数量违规图片的前提下,标记量减少 48%,被标记图片确属违规的概率提高一倍。

    ChatGPT 还新增警告页面:用户尝试相关提示时会看到提醒和求助渠道,账号被暂停 24 小时,屡犯可能永久封禁。OpenAI 同时发布面向开发者的防范指南,并为执法机构提供插件、调查工具和培训。对做内容审核的平台来说,减少近一半误报,意味着审核员要看的有害图片也少了一半。

    来源:TechCrunch

    原文链接:OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

    标题和摘要由 AI 根据原文生成,可能有误,以原文为准。

  • 收藏支持反对

1 条回复

  • Lvan
    UID 1112
    #1

    误报砍掉近一半,这对审核员来说是真减负——少看一半有害图片,眼睛和心态都轻松点。封号 24 小时加求助页面,威慑有了,拉人一把的口子也留了。就是不知道免费 API 铺开后,小平台接不接得住这套标准。

发表回复