张仁杰/文
9月1日起,与AI行业紧密相连的法规和标准正式落地实施:其一为今年3月印发的《人工智能生成合成内容标识办法》(下称《标识办法》);其二是为配套《标识办法》而出台的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》(GB45438-2025)。
法规和标准的实施影响深远,与从业者和使用者均息息相关,称其将改变整个互联网上AI内容的生态也不为过。这套法规组合拳旨在解决一个日益严峻的问题:AI正以海量真假难辨的内容“污染”我们的信息渠道,诸如之前的“三只羊事件”、利用AI克隆声音造谣抹黑他人甚至实施诈骗等乱象,防不胜防。
当互联网被AI生成的虚假信息充斥,我们仿佛置身于被哈哈镜环绕的世界,逐渐丧失对真实的判断力,这无疑是一个极其危险的信号。而此次出台的《标识办法》及配套国家标准,就是要给所有AI生成的内容打上类似身份证的标签,让人们能够一眼分辨哪些内容是人类创作的,哪些是AI生成的。
因此,我们有必要深入解读《标识办法》,明确AI模型或应用提供方、借助AI工具辅助创作的创作者等各方应如何作为。
显式标识
首先,《标识办法》规定,境内所有AI模型或应用提供方在向用户输出内容时,均需添加标识。标识分为显式标识和隐式标识两种。
显式标识较为直观易懂,即当AI大模型或应用生成信息时,会明确显示“我是AI”。标识与各个模态紧密相关,模型和AI应用方都必须添加显式标识。
具体而言,对于文本内容,显式标识需在开头、结尾或中间位置明确标注包含人工智能要素(“人工智能”或“AI”)和生成合成要素(“生成”和/或“合成”),也可使用“AI”角标,且至少要在文本起始、中间适当位置和末尾进行标注。
图片内容的显式标识,需在图片边角位置添加文字,如“AI/人工智能生成/合成”,且文字高度不得低于图片最短边的5%,以杜绝使用小字号蒙混过关的情况。
音频内容的显式标识最有意思。生成的音频内容,要么在开头或结尾用正常语速(约120字/分钟—160字/分钟)的语音说“由AI生成”;要么播放一段“短—长—短—短”的特殊节奏音,此为“AI”两个字母的摩斯电码。
视频内容的显式标识与图片类似,需在生成的视频画面边角添加文字标识,可置于视频起始、末尾、中间等适当位置,文字高度不应低于画面最短边长度的5%,且在正常播放速度下,持续时间不得少于2秒。
最后,所有AI模型或应用的交互界面也需添加标识,可在内容附近或交互场景界面的顶部、底部、背景等适当位置持续显示提示文字。
可以说,未来所有AI模型或应用生成的任何模态内容都将添加标识,用户使用这些内容时,也都会看到相应标识。
《标识办法》第十条规定,任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或服务,不得通过不正当标识手段损害他人合法权益。
不过,存在一种例外情况。《标识办法》第九条规定,用户申请服务提供者提供未添加显式标识的生成合成内容时,服务提供者可在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。
这一规定为专业生产流程开辟了一条合规绿色通道。有时,专业人员需要一份干净素材进行二次创作,如影视后期、广告合成、出版排版、研究评测等;若一开始就将显式标签烙在画面上,后续流程将无法开展。
因此,《标识办法》第九条允许服务提供者(即AI模型和AI应用提供方)在与特定用户明确使用责任和标识义务后,提供不带显式标识的素材,但需留存对方信息和相关日志不少于六个月,以便追溯责任。
关于这一点,部分AI应用平台及其超级创作者已开始试水,但仍需注意几个关键要点。
其一,《标识办法》仅允许放开显式标识,隐式标识中的元数据和数字水印仍必不可少,否则将违反第五条和强制性国家标准。其二,不带显式标识的内容若进行公开传播,内容发布者仍需在公众号、小红书等发布平台上主动声明并添加标注,此外,平台方也会依据《标识办法》第六条再次添加标识,最终形成闭环。其三,发布者自行删除标识是绝对禁止的,谁删除谁担责。
对于新规,一句话总结下来就是:对专业环节友好,对公开传播严厉。
隐式标识
若说显式标识是给人看的,那么隐式标识则是为机器和监管服务的。这就如同给内容配备了一张身份证和指纹,隐藏在文件元数据中的标识不影响观看体验,但一旦出现问题,通过这些信息就能追溯来龙去脉、找到源头。
《标识办法》明确要求,服务提供者需在生成合成内容的文件元数据中添加隐式标识,至少包含三个信息:是否为AIGC、由谁生成、内容的唯一编号。
同时,《标识办法》鼓励叠加一层数字水印,以增强溯源能力。具体做法是在文件元数据中新增一个包含AIGC关键词的扩展字段,内置一个小字典。其中,Label表示属性,支持三种状态:1代表确定,2代表可能,3代表疑似。ContentProducer(生成合成服务提供者)和ProduceID(内容制作编号)记录生成方及其内部编号,内容进入平台流转后,平台需将自身的ContentPropagator(内容传播服务提供者)和PropagateID(内容传播编号)写回,形成闭环链路。
此外,《标识办法》配套的国家标准还预留了ReservedCode1(预留字段1)和ReservedCode2(预留字段2)用于安全加固,如进行数字签名,防止内容被篡改。
内容隐形标识,如数字水印等形式,在此版国家标准中虽被认可,但并非强制要求。真正的强制要求是必须完善元数据中的隐式标识,且字段要齐全。《标识办法》也明确鼓励添加数字水印,相当于将看得见和看不见的证据都补充完整。
怎么看、怎么办
解读完政策,我们来探讨最为关键的问题:这些法规对人们究竟有何影响,相关从业者又该如何应对?
若作为产品创业者或AI工具提供方,无疑责任重大。因为从法规层面来看,产品创业者和AI工具提供方必须成为执行规则的第一责任人。因此,若相关产品未标注这些标识,责任人应立即升级产品,确保服务在生成任何内容时,默认按照上述国家标准,自动为用户生成的内容添加显式标识和隐式标识。这必须成为产品功能的必备部分,而非可选功能。
其二,在修改用户协议时,需在协议中明确告知用户这些标识的存在、样式和法律要求。
其三,可提供豁免选项,但需谨慎操作。如前文所述,《标识办法》第九条预留了绿色通道。但前提是制作者必须与用户通过协议明确,用户有自行标识的义务和滥用内容的责任;同时,必须依法记录用户的身份信息和相关日志,并保存至少六个月。
其四,若服务通过API提供给其他开发者,服务提供方同样有义务在生成的数据中包含隐式标识,并要求API调用方履行标注显式标识的义务。
对于使用AI的创作者或博主来说,其角色是规则的使用者和传播者,也需适应新规,在使用AI工具创作并发布内容时,应主动利用平台提供的功能进行标注。
说到此处很多人会有疑问:我写了一篇文章或制作了一段视频,90%的内容是自己创作的,只有10%的素材或内容是AI生成的,那么在发布内容时是否也需要进行声明和标注?
答案也很明确。《标识办法》第十条规定,用户使用网络信息内容传播服务发布生成合成内容时,应主动声明并使用服务提供者提供的标识功能进行标识。简单来说,只要成品中实际呈现了AI生成的内容,哪怕仅占10%,也需进行声明。也就是说,管理办法是按照“是否包含”来判定,而非“依据占比”进行豁免。
在公开发布前,用户需主动声明并标注好显式标识,这是法规的硬性要求。平台方也会读取元数据、检查显式痕迹;若未看到标注,又感觉内容像是AI生成的,平台系统会添加疑似或可能的提示,创作者账号的权重反而会受到负面影响。
但如果我们仅让AI修改错别字、润色语序,这种情况在行业内普遍被视为纯粹的轻度润色,不构成“生成合成内容”,一般无需标注。
一旦内容中包含可辨识的AI段落、AI配图、AI配音,或者对内容进行了实质性改写,进入标识范围,创作者在发布时就需注意,不要通过截屏、重新编码、导出时清理元数据等操作去除隐形标识。这些操作不仅可能导致内容被平台打标、账号权重降低,还可能触碰删改标识的红线。
对于认真创作内容、亲手码字、剪辑视频的人来说,这无疑是利好消息。但对于那些利用AI发布不实言论、造谣甚至诈骗的人,则需慎重权衡。以数字水印为代表的隐式标识,发挥着监管和震慑作用,同时也能有效降低互联网上AI垃圾内容的比例。
真实、人味,是我们这个时代的稀缺资源;将AI关进制度的笼子,是为了让人类重新站在舞台中央。未来属于能够被复核的叙事,属于那些敢于签上自己名字的作品。
(作者系数字生命卡兹克主理人,虚实传媒CEO)
免责声明:本文观点仅代表作者本人,供参考、交流,不构成任何建议。