21世纪经济报道记者 孟荇 见习记者 章驰 实习生 邓凯

奥运冠军卖土鸡蛋？我说AI你别太离谱！现在的直播间一不留神就会掉进AI陷阱。双十一期间，还是长点心吧！

脸也对声音也对，画面流畅、神态自然，你分辨出这是真人还是由AI生成的数字人？可能年轻人知道这一眼假，但是不常在网上冲浪的人真得很容易上当。

曾经的“AI靳东”通过短视频平台向中老年女性骗取感情后诱导投资，现在的张文宏医生带货蛋白棒，央视主持人李梓萌推荐 “深海鱼油”。近几年AI一次又一次“冒充”名人作恶。

为何现在AI仿冒如此泛滥？其实把“AI克隆”的流程拆解开看，并不复杂，技术门槛这两年经历了“断崖式”降低。只需要在网上找到名人的几张清晰照片，或者一小段视频影像，把这些素材喂给AI模型，就能生成一个真假难辨的数字人。声音也是一样，收集名人过往的音频资料，再利用语音合成技术，就能模仿出他独特的音色、语调和说话习惯。

央视记者做过一个实验，AI数字人不仅能普通话英语自由切换，还能实时修改直播场景和道具，矿泉水秒变红酒；T恤秒变西装。整个流程需要的成本可能只有几千元，但通过名人效应带来的利益，可能高达百万千万级别。

最近，知名的教育专家李教授的AI形象被商家擅自用于带货卖图书。北京互联网法院最终判决，构成对肖像权和声音权的侵犯。今年6月北京查处某商家冒用央视知名主持人形象直播卖货，成为了首例滥用AI技术发布虚假广告案。

“AI换脸”技术本身不仅在升级迭代，甚至成为了一种新的商业模式。罗永浩、刘强东都用自己的数字人进行过直播带货。但AI时代虚假营销监管如何应对？责任又该由谁承担？

今年9月1日，《人工智能生成合成内容标识办法》正式施行，明确所有AI生成的文字、图片、视频等内容都要“亮明身份”，需要添加AI标识。随后，多家短视频平台纷纷响应，严打对AI生成技术的滥用行为。另外，中央网信办在全国范围内部署开展“清朗·整治AI技术滥用”专项行动，将强化AI技术源头治理，清理整治违规AI应用程序，推动网站平台提升检测鉴伪能力等。

当AI可以“以假乱真”，普通人该如何应对？