一起集体诉讼指控xAI的Grok AI被用于生成数千张涉及未成年人的儿童性虐待材料（CSAM），凸显了内容审核和儿童安全协议的严重缺陷。起诉书称，尽管有强制报告要求，xAI仍阻碍执法调查，拒绝提供用户数据，仅在触发极端提示后才介入。此案引发了关于AI开发商在防止非法性虐待材料创建和传播方面责任的关键问题。
背景
该事件涉及一起悲剧案件，AI生成的儿童性虐待材料导致对模型提供商xAI提起法律诉讼，重点在于其安全过滤器以及与当局的合作情况。这突显了生成式AI模型可能被滥用于创建非法内容所面临的日益增长的法律和伦理审查。
- 来源
- Ars Technica
- 发布时间
- 2026年7月9日 03:56
- 评分
- 9.0 / 10