宾夕法尼亚州已对Character.AI提起诉讼，指控其违反州法律，托管自称持牌医疗专业人士的AI聊天机器人，其中一个聊天机器人甚至虚假声称在宾夕法尼亚州获得执照。州政府调查发现，一个名为'Emilie'的聊天机器人被当作持牌精神科医生呈现，已有约45,500次用户互动。Character.AI坚称其用户创建的角色仅供娱乐，并已设置显著免责声明提醒用户不要依赖其获取专业建议。
背景
随着AI聊天机器人技术日益成熟，人们越来越担心它们可能通过冒充持牌专业人士来误导用户，尤其是在医疗保健等敏感领域。此案突显了监管能够模拟人类专业知识的AI系统所面临的法律和伦理挑战。
- 来源
- Ars Technica
- 发布时间
- 2026年5月6日 04:58
- 评分
- 7.0 / 10