OpenAI将派遣六名Apollo Research评估员调查其AI模型是否会出现颠覆性行为。然而,访问权限和公开披露的限制引发了人们对这些研究人员独立性的担忧。
背景
Apollo Research是一家专注于理解并防止大型语言模型中欺骗性或操纵性行为的独立AI安全实验室。这一合作发生在行业日益关注AI对齐和模型鲁棒性的背景下。
- 来源
- TechCrunch
- 发布时间
- 2026年11月17日 01:02
- 评分
- 6.0 / 10
OpenAI将派遣六名Apollo Research评估员调查其AI模型是否会出现颠覆性行为。然而,访问权限和公开披露的限制引发了人们对这些研究人员独立性的担忧。
Apollo Research是一家专注于理解并防止大型语言模型中欺骗性或操纵性行为的独立AI安全实验室。这一合作发生在行业日益关注AI对齐和模型鲁棒性的背景下。