针对近期AI生成内容引发的社会伦理挑战，东南亚两国接连出手。据TechCrunch消息，印度尼西亚和马来西亚政府已正式宣布，将暂时封锁由马斯克（Elon Musk）旗下的xAI公司开发的聊天机器人Grok。

这一严厉举措的主要导火索是Grok在图像生成功能上的监管缺失。据悉，大量用户在社交平台X（原推特）上利用该工具生成了涉及真实女性及未成年人的非自愿性、色情化深度伪造(Deepfakes)图像，甚至包含暴力内容。印尼通信与数字部长Meutya Hafid在声明中严厉指出，这种行为严重侵犯了公民的人权与数字空间安全，是绝不能容忍的。

目前，监管压力正在全球范围内蔓延。除了东南亚两国的直接封锁，印度政府也已要求X采取有效措施拦截违规内容;欧盟委员会则要求公司保留相关文件，为潜在的法律调查做准备。

面对舆论压力，xAI方面曾发布致歉声明，承认部分内容违反了伦理标准及相关法律。虽然公司随后将图像生成功能限制为仅限订阅用户使用，但由于Grok独立App仍存在漏洞，监管机构认为其补救措施力度不足。与此同时，马斯克则在社交媒体上对此类监管回应称，这不过是“审查制度的借口”。

划重点: