E-Ink 新闻日报

← 返回列表

OpenAI发布新图像分类器与ChatGPT警告功能,打击儿童性虐待材料

OpenAI联合NCMEC推出新型AI图像分类器,用于检测包括AI生成内容在内的儿童性虐待材料(CSAM),并向部分企业免费开放API接口。该分类器可减少48%的审核工作量,同时使被标记图片的违规比例提高一倍。此外,ChatGPT新增警告界面、支持引导及24小时临时封禁措施,以遏制用户尝试生成或访问相关内容的行为。

背景

随着生成式AI使得制造非法合成图像变得更加容易,儿童性虐待材料(CSAM)的检测成为关键挑战。NCMEC要求企业向执法部门报告已知的CSAM内容,而OpenAI的分类器将这一工作扩展至从未见过及AI生成的内容。

来源
TechCrunch
发布时间
2026年11月17日 01:00
评分
7.0 / 10