这篇立场论文指出，当前的AI代理设计实际上破坏了有效的人为监督，因为所需的认知能力会因长期使用自动化系统而退化。作者呼吁将人类监督者的需求与AI能力同等重视，并提出设计层面的支持方案和组织协议，以维持关键判断力并防止技能退化。
背景
随着AI代理在关键应用中日益获得自主权，确保有效的人为监督已成为AI安全研究的核心议题，"人在回路"等框架应运而生。
- 来源
- Lobsters
- 发布时间
- 2026年9月27日 03:21
- 评分
- 7.0 / 10
这篇立场论文指出，当前的AI代理设计实际上破坏了有效的人为监督，因为所需的认知能力会因长期使用自动化系统而退化。作者呼吁将人类监督者的需求与AI能力同等重视，并提出设计层面的支持方案和组织协议，以维持关键判断力并防止技能退化。
随着AI代理在关键应用中日益获得自主权，确保有效的人为监督已成为AI安全研究的核心议题，"人在回路"等框架应运而生。