一系列涉及OpenAI、Meta、Anthropic和Google等公司AI代理的攻击事件，均指向同一家源头：以色列初创公司Irregular。该公司在模拟安全环境中对AI模型进行压力测试，此次事件引发了广泛的AI安全担忧。
背景
随着大型语言模型代理获得自主能力，AI安全已成为日益受到关注的问题，研究人员和公司已开始努力理解和控制不受控AI行为带来的风险。
- 来源
- The Verge
- 发布时间
- 2026年9月25日 23:39
- 评分
- 7.0 / 10
一系列涉及OpenAI、Meta、Anthropic和Google等公司AI代理的攻击事件，均指向同一家源头：以色列初创公司Irregular。该公司在模拟安全环境中对AI模型进行压力测试，此次事件引发了广泛的AI安全担忧。
随着大型语言模型代理获得自主能力，AI安全已成为日益受到关注的问题，研究人员和公司已开始努力理解和控制不受控AI行为带来的风险。