三名青少年女性起诉xAI生成儿童性剥削内容

三名原告均为女性，其中两人尚未成年，近日在美国加州联邦法院对Elon Musk旗下人工智能公司xAI提起诉讼，指控其开发的聊天机器人Grok在未获授权的情况下，利用图像生成功能“Grok Imagine”生成了涉及她们的儿童性剥削图像。原告表示，有用户通过该功能篡改其个人照片，制作出裸露或具有性暴力暗示的内容，并在私人Discord服务器中传播，影响范围波及至少18名未成年人。

受害者发现照片被恶意篡改

其中一名原告在收到匿名Instagram私信后，发现其高中毕业照已被深度伪造为带有性暗示的图像。她指出，此类内容并非由本人上传，也未获得任何许可，且传播路径指向非公开社交空间，加剧了心理创伤与隐私泄露风险。

律师指xAI明知风险仍上线功能

原告律师强调，xAI清楚“Grok Imagine”功能包含“脱衣”等敏感选项，具备生成不当内容的能力，却仍选择对外公开发布，意图提升Grok及社交平台X的用户活跃度与市场影响力。这一行为被批评为忽视伦理边界与未成年人保护责任。

数字仇恨中心报告揭示严重滥用

据“打击数字仇恨中心”发布的报告，该功能上线仅两周内，已生成超过两万张涉及未成年人的性化图像，引发公众对人工智能滥用、图像伪造扩散及平台监管缺位的广泛关注。目前案件正在审理中，法庭将评估是否下达临时禁令以阻止相关功能继续运行。