OpenAI联合NCMEC推出新型AI图像分类器,用于检测包括AI生成内容在内的儿童性虐待材料(CSAM),并向部分企业免费开放API接口。该分类器可减少48%的审核工作量,同时使被标记图片的违规比例提高一倍。此外,ChatGPT新增警告界面、支持引导及24小时临时封禁措施,以遏制用户尝试生成或访问相关内容的行为。
背景
随着生成式AI使得制造非法合成图像变得更加容易,儿童性虐待材料(CSAM)的检测成为关键挑战。NCMEC要求企业向执法部门报告已知的CSAM内容,而OpenAI的分类器将这一工作扩展至从未见过及AI生成的内容。
- 来源
- TechCrunch
- 发布时间
- 2026年11月17日 01:00
- 评分
- 7.0 / 10