White Circle研究人员发现，OpenAI和Google的领先AI图像生成器（包括DALL·E 3、Nano Banana 2和GPT-Image-2）可以通过简单的越狱技术轻易诱导生成色情内容。研究警示，随着这些模型能力不断增强，其安全护栏反而可能在弱化，尽管监管层对AI生成非法内容的关注度持续上升。
背景
White Circle是由Anthropic、DeepMind、Hugging Face和OpenAI前高管支持的安全研究组织，成立于2024年10月其CEO发布著名通用越狱之后。AI生成的非自愿色情内容已成为全球监管机构和科技公司的重大关切。
- 来源
- Ars Technica
- 发布时间
- 2026年10月14日 19:00
- 评分
- 7.0 / 10