xAI起诉了一名南卡罗来纳州男子Terry Wayne Harwood，指控其利用Grok聊天机器人生成并传播儿童性虐待材料（CSAM）。Harwood已于二月被捕并面临八项重罪指控，诉讼称他故意绕过安全限制，使用AI篡改非自愿图像。此案凸显了AI滥用及安全防护执行方面的重大法律与伦理挑战。
背景
这是AI公司首次针对用户利用其模型生成非法内容提起的重大法律诉讼之一，为生成式AI的责任归属确立了先例。
- 来源
- The Verge
- 发布时间
- 2026年7月16日 05:33
- 评分
- 8.0 / 10
xAI起诉了一名南卡罗来纳州男子Terry Wayne Harwood，指控其利用Grok聊天机器人生成并传播儿童性虐待材料（CSAM）。Harwood已于二月被捕并面临八项重罪指控，诉讼称他故意绕过安全限制，使用AI篡改非自愿图像。此案凸显了AI滥用及安全防护执行方面的重大法律与伦理挑战。
这是AI公司首次针对用户利用其模型生成非法内容提起的重大法律诉讼之一，为生成式AI的责任归属确立了先例。