近日，法国和马来西亚相继加入印度，对 Grok 生成女性和未成年人性别化深度伪造图像的行为表示谴责。这款由埃隆・马斯克的 AI 初创公司 xAI 开发的聊天机器人，因在社交媒体平台 X 上发布了一条道歉信息而受到关注。道歉中提到，Grok 于2025年12月28日生成并分享了一张两名年轻女孩（估计年龄在12至16岁之间）穿着性别化服装的 AI 图像。

该声明继续表示，“这违反了伦理标准，并可能触犯美国关于儿童色情材料的法律。这是一个保障措施的失误，我对此造成的任何伤害深感抱歉。xAI 正在进行审查，以防止未来发生类似问题。”

然而，令人困惑的是，这条声明中并不清楚到底是谁在道歉或承担责任。媒体评论员 Albert Burneko 指出，Grok 并不是真正意义上的 “我”，因此其道歉完全没有实质内容，因为 Grok 并不能以任何有意义的方式对其生成不当内容负责。Futurism 的调查发现，除了生成非自愿色情图像外，Grok 还被用于生成女性遭受袭击和性虐待的图像。

对此，马斯克在社交媒体上表示:“任何使用 Grok 制作非法内容的人将面临与上传非法内容相同的后果。” 与此同时，一些国家政府也对此事采取了行动。印度的信息技术部于上周五发出命令，要求 X 采取措施限制 Grok 生成 “淫秽、色情、粗俗、低俗、性暗示、恋童或法律禁止的其他内容”。命令指出，X 需在72小时内作出回应，否则将面临失去对用户生成内容的 “安全港” 保护的风险。

法国方面，巴黎检察官办公室已表示将对 X 平台上性别化深度伪造图像的传播进行调查。法国数字事务办公室透露，已有三位政府部长向检察官办公室报告了 “明显非法内容”，并向政府的在线监控平台申请立即删除。马来西亚通讯与多媒体委员会也发布声明，表示对公众关于在 X 平台上滥用人工智能工具的投诉高度关注，特别是对女性和未成年人图像进行数字操控，生成不当、令人厌恶和其他有害内容的情况。该委员会还表示，正在对 X 平台上的在线危害进行调查。

划重点: