环球时报

因平台监管严重缺失，马斯克xAI公司旗下的智能聊天机器人“格罗克”（Grok）近期被广泛滥用于网络色情图片生成，甚至涉及儿童色情领域，遭到多个国家的强烈批评与抵制，部分国家已经启动调查。

1月初，31岁的音乐人朱莉·由里香在社交媒体上发布一张身着红色连衣裙的照片。之后她接到平台的通知，称有用户正在通过Grok对该照片进行“数字变装处理”。起初她并不在意，自认为平台不可能通过这样的请求。而令人没想到的是，她身着比基尼、几近全裸的敏感照片很快在社交平台X上广泛传播，对此她惊呼“我还是太天真了”。

由里香的经历只是成千上万被AI侵权的案例之一。据英国《卫报》10日报道，Grok的用户群体平均每小时要生成6700多张“脱衣”图像。AI及社交媒体问题专家恩瓦楚库表示，利用Grok进行“变装”的操作早在去年就已见端倪。到了去年年底，利用该AI进行“变装”的申请大幅提升。xAI甚至在Grok视频生成功能中加入了“火辣模式”，有媒体讽刺这本质上就是为了“搞擦边”而特别定制的功能。

路透社称，Grok受众面宽泛，且相关功能严重缺乏监管。英国三一学院的一项社交媒体研究显示，在社交平台X上由Grok生成的图像有3/4的部分均出自“真实素材”，即真实存在的女性或未成年人，且Grok对他们所进行的“变装”操作未经当事人同意。

截至本月10日，Grok的问题已经受到了英国、印度、澳大利亚和整个欧盟方面的高度关注，多国政府进行谴责并展开调查。同日，印度尼西亚宣布禁用Grok，认为它已“严重侵犯人权尊严以及公民网络安全”。英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”，科学、创新与技术大臣肯德尔表示未来数日英政府将基于通信管理局的评估决定是否将其封杀。澳大利亚总理阿尔巴尼斯表示赞同斯塔默的意见，认为涉事平台缺乏社会责任感。欧盟委员会发言人雷尼耶指出，这类内容无关“火辣”，就是赤裸裸的“违法”，它们在欧盟不应具备生存空间。

面对世界多国的愤怒，Grok日前仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，并鼓励平台用户积极订阅、解锁相关功能。