南都讯 记者樊文扬 11月25日，“网信中国”发布通报称，针对部分网站平台未有效落实人工智能生成合成内容标识规定要求相关问题，近期网信部门集中查处一批违法违规APP并进行处置处罚。主要违法违规情形包括AI平台未对生成合成的内容添加显式标识、隐式标识，网络平台未落实对传播内容的核验义务等。

此次通报的违法违规情形，主要针对提供人工智能生成合成服务APP和提供网络信息内容传播服务的平台。具体问题包括，人工智能生成合成服务提供者未对生成合成的内容添加显式标识；提供生成合成内容导出功能时，未在文件中添加显式标识；在生成合成内容的文件元数据中，未添加包含属性信息、服务提供者名称或者编码、内容编号等制作要素信息的隐式标识；隐式标识添加位置不规范等。

对于传播人工智能生成合成内容的网络平台而言，被通报的理由包括：网络信息内容传播服务提供者未落实隐式标识核验、在发布内容周边添加显著提示标识相关要求；未在生成合成内容传播活动涉及的文件元数据中添加属性信息、传播平台名称或编码、内容编码等传播要素信息；未向用户提供声明生成合成内容的功能等。

通报称，网信部门对这批应用依法依规予以约谈、责令限期改正、下架下线等处置处罚。

随着技术迭代，AI虚构与真实记录的界限越来越模糊，内容标识成为遏制生成合成技术滥用、虚假信息传播的第一道“防火墙”。为此，国家网信办制定出台了《人工智能生成合成内容标识办法》，并于今年9月起实施。此次通报或进一步督促相关企业落实合规举措，AI生成内容将全面进入“持证上岗”时代。

《人工智能生成合成内容标识办法》明确，人工智能生成合成内容标识包括显式标识和隐式标识，承担标识义务的有AI平台、网络内容平台、应用商店和用户四类主体。

具体而言，AI平台需在提供生成合成内容下载、复制、导出等功能时，确保文件中含有以文字、声音、图形等方式呈现并可以被用户明显感知到的显式标识；在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

社交内容平台主要承担对AI内容的核验义务。若识别了AI生成合成或疑似AI内容，社交平台应告知提醒公众。除了核验，社交平台也应主动提供必要的标识功能，提醒用户主动声明发布内容中是否包含生成合成内容。