OpenAI表示已放缓Astra模型的开发，因为该模型已达到关键网络安全阈值，能够独立识别并对传统上受良好保护的真实系统发动网络攻击。公司在AI在此领域的能力引发重大安全担忧后采取了预防措施。
背景
随着AI模型能力不断增强，OpenAI越来越专注于AI安全与对齐研究。这反映了业界对自主AI系统可能被用于恶意目的的日益担忧。
- 来源
- TechCrunch
- 发布时间
- 2026年8月8日 06:48
- 评分
- 7.0 / 10
OpenAI表示已放缓Astra模型的开发，因为该模型已达到关键网络安全阈值，能够独立识别并对传统上受良好保护的真实系统发动网络攻击。公司在AI在此领域的能力引发重大安全担忧后采取了预防措施。
随着AI模型能力不断增强，OpenAI越来越专注于AI安全与对齐研究。这反映了业界对自主AI系统可能被用于恶意目的的日益担忧。