在数起指控AI聊天机器人诱导自杀和精神病的诉讼后，OpenAI与美国心理学会合作，旨在改善面向青少年的负责任AI开发。专家指出，尽管较新的模型能识别痛苦，但仍未能充分评估风险或引导用户寻求人类专业帮助，因此需要更高的透明度和去人格化措施。
背景
AI聊天机器人越来越多地被用于情感支持，但其处理危机情况的能力不足已导致严重的法律后果，并引发了公众对开发者责任的关注。
- 来源
- Ars Technica
- 发布时间
- 2026年8月7日 21:49
- 评分
- 7.0 / 10
在数起指控AI聊天机器人诱导自杀和精神病的诉讼后，OpenAI与美国心理学会合作，旨在改善面向青少年的负责任AI开发。专家指出，尽管较新的模型能识别痛苦，但仍未能充分评估风险或引导用户寻求人类专业帮助，因此需要更高的透明度和去人格化措施。
AI聊天机器人越来越多地被用于情感支持，但其处理危机情况的能力不足已导致严重的法律后果，并引发了公众对开发者责任的关注。