Anthropic报告称，包括来自俄罗斯、中国和伊朗等受制裁国家的用户，找到了绕过其安全过滤器的方法以获取可用于生物武器研究的信息。该公司提供了五个案例研究并已封禁相关账户，同时强调这类信息具有双重用途性质。此事发生在Anthropic因存在性风险担忧而出现大规模离职潮、AI安全问题引发广泛关注的背景下。
背景
多名员工因对公司安全监管推进速度不满而辞职后，Anthropic成为AI安全辩论的焦点。该公司禁止某些国家访问其模型并设有内容过滤器，但这些安全措施可通过提示词工程等方式被规避。
- 来源
- Ars Technica
- 发布时间
- 2026年9月11日 21:02
- 评分
- 7.0 / 10