Grok“深度伪造”风波持续发酵，马斯克子女母亲亦成受害者，加州检方介入 海外新鲜事 美国科技富豪埃隆·马斯克（Elon Musk）旗下 xAI 公司开发的人工智能聊天机器人 Grok，因在社交平台 X 上被用于生成“深度伪造”（Deepfake）影像而引发巨大争议。近日，一名马斯克子女的母亲也因此提起诉讼。与此同时，美国加州检方正式致函 xAI，要求其立即停止 Grok 生成此类影像的相关功能，对马斯克旗下社交媒体和 AI 业务施加更大压力。美联社16日报道称，一名自称作家兼政治顾问的27岁女子阿什莉·圣克莱尔（Ashley St. Clair）于15日在纽约对 xAI 公司提起诉讼，指控聊天机器人 Grok 在未经当事人同意的情况下，允许用户生成带有性暗示的虚假影像，对其构成性剥削式“深度伪造”，造成严重羞辱与精神伤害。圣克莱尔表示，其中一张被篡改的图片原本是她14岁时一张穿着得体的照片，却被加工成身着比基尼的形象；另一些影像则将她描绘成成年女性，摆出具有明显性暗示的姿势，甚至还把身为犹太人的她篡改为身穿带有纳粹标志的比基尼，令她深感震惊与愤怒。圣克莱尔是马斯克现年约16个月大儿子罗穆卢斯（Romulus）的母亲。截至16日，xAI 的律师尚未就此作出正式回应。美联社就此询问 xAI 时，公司仅通过电子邮件回覆称这是“传统媒体的谎言”。不过，在圣克莱尔提起诉讼后，xAI 已在得克萨斯州北区联邦法院对她提出反诉，指其违反用户条款中关于诉讼必须在得州提起的约定。与此同时，路透社16日报道称，加州司法部门已就 Grok“深伪”事件对 xAI 采取行动。加州总检察长罗布·邦塔（Rob Bonta）当天致函 xAI，要求其立即停止利用 Grok 制作和传播未经当事人同意的性化影像。邦塔指出，大量此类内容——其中部分甚至涉及对女性和儿童性行为的描绘——“令人震惊”，并可能已触犯法律。加州检方的介入，使马斯克旗下社交媒体平台和 AI 公司面临更大的监管与舆论压力。英国、欧盟，以及印度、印尼、马来西亚、菲律宾和日本等国家和地区，近期也已就相关问题展开调查。对此，X 平台与 xAI 均尚未回应加州方面的正式函件。在 Grok“深度伪造”风波引发全球谴责后，X 公司日前宣布，已禁止用户利用 Grok 将真实人物的影像篡改为穿着暴露的形象。然而，路透社指出，尽管 xAI 已撤下 Grok 公开生成高度写实性化影像的功能，但截至美东时间16日中午，Grok 在私人对话模式下仍可按要求生成类似内容，引发外界对监管成效的进一步质疑。图：xAI公司和Grok标志。 （路透档案照）
