Anthropic研究员Jacob Coxon辞职并公开警告，前沿AI公司正在以人类存亡为赌注追求自我改进的超级智能。其担忧得到Anthropic对齐科学主管Evan Hubinger的支持，他认为未来十年内AI导致人类灭绝的概率超过10%。这些警告与Anthropic自身对齐团队报告中承认未来更强大模型可能存在灾难性风险的结论一致。
背景
Anthropic是领先的的前沿AI实验室之一，以其在AI对齐和安全研究方面的关注而闻名。随着模型能力的提升，关于AI生存风险的争论日益激烈，一些研究者呼吁暂停或放缓，而另一些人则推动加速发展。
- 来源
- Ars Technica
- 发布时间
- 2026年9月10日 00:59
- 评分
- 7.0 / 10