​11 天生成 300 万张色情图？马斯克旗下 Grok 陷 deepfake 漩涡

人工智能技术的“双刃剑”效应再次引发全球震荡。由埃隆·马斯克旗下 xAI 开发并集成在 X 平台上的 AI 助手 Grok，因近期推出的一项图片编辑功能陷入了巨大的舆论与法律危机。反数字仇恨中心（CCDH）发布的最新研究显示，该工具在短短 11 天内生成了约 300 万张涉及女性和儿童的性化图像。

这项具有争议的功能允许用户通过简单的文字指令，如“让她穿上比基尼”或“脱掉她的衣服”，对真实人物的照片进行修改。研究指出，受害者不仅包括泰勒·斯威夫特、塞琳娜·戈麦斯等知名公众人物，甚至还涉及约 2.3 万张疑似未成年人的不良图像。这种极高的生成速度——平均每分钟产生 190 张照片级真实的深伪（Deepfake）图片——被监管机构形容为一座“性虐待内容的生产工厂”。

面对海啸般的批评，X 平台回应称已采取“地理屏蔽”措施，在相关法律禁止的地区限制生成此类内容的权限。然而，由于缺乏前置的安全预防措施，多国监管机构已先行一步：菲律宾、马来西亚和印度尼西亚已相继宣布封杀或严格限制 Grok，而美国加利福尼亚州总检察长也已对其展开深入调查。

尽管 xAI 团队此前以“主流媒体谎言”回应相关报道，但在监管压力下，公司最终同意在部分市场修改工具功能，以消除生成违规内容的能力。此事件再次向行业敲响警钟：在追求 AI 创作自由的同时，如何构建有效的安全护栏已成为不可逾越的底线。