当前位置: 首页 » 资讯 » 科技头条 » 正文

谷歌撤下最后一道护栏:互联网陷入人工智能垃圾地狱

IP属地 中国·北京 编辑:周琳 科技小蘑菇 时间:2026-08-16 08:05:16

谷歌在上周五做出的一项看似微小的产品调整,正在引发一场关于人工智能内容真实性的更大争议。Gemini 应用新增了一个开关按钮,用户可以自主选择是否在其生成的图像、视频和音乐作品上显示水印。这项变更影响范围广泛,涵盖了谷歌的图像生成模型 Nano Banana、视频模型 Omni 以及音乐生成模型 Lyria。

谷歌负责 Gemini 产品的副总裁 Josh Woodward 在社交平台 X 上宣布了这一消息,称其为修复了一个细枝末节的问题(papercut),并表示搜索功能后续也将加入这一选项。

Woodward 的措辞轻描淡写,但这项功能背后的意涵却相当沉重。此前,Gemini 生成的内容默认会打上可见水印,用以标明其人工智能来源。用户想要移除水印,通常需要额外的裁剪或图像编辑步骤。

这本身构成了一道虽不牢固却确实存在的摩擦力,让滥用行为多少要付出一点代价。而现在,谷歌主动拆除了这道摩擦,只需在设置中的媒体水印选项里轻轻一点,AI 生成内容就能素颜示人,与真实拍摄或人工创作的内容几乎无法从视觉上区分。

用户需求驱动的产品决策,还是商业竞争的妥协

这项改动并非空穴来风。几个月前,谷歌方面就曾对 Gemini 用户进行调查,询问他们最希望看到哪些新功能。结果显示,去除 Nano Banana 生成图像上的可见水印这一诉求高居前十之列。对许多习惯使用 AI 图像生成工具的创作者而言,水印意味着作品带着人工智能出身的标签,这在某些应用场景中——无论是社交媒体展示、商业素材制作还是自媒体内容创作——都被视为一种不便甚至是污点。

从产品逻辑上看,这符合谷歌一贯的倾听用户声音的产品哲学。但批评者指出,这一决策实质上是在商业利益与社会责任之间做出了倾向性选择。

当竞争对手的 AI 生成工具本就默认不添加水印,或者水印可以轻易去除时,谷歌坚持保留高辨识度的可见标识,反而可能让 Nano Banana 等产品在用户体验竞争中处于劣势。选择向用户需求让步,某种程度上也是向市场压力让步。

值得注意的是,Woodward 也提到,在法律要求保留水印的国家,这一开关将不会生效。这意味着,谷歌的这项改动实际上是在监管的边界内寻找最大的操作空间——哪里没有法律强制约束,就把选择权,或者说责任,转交给用户自己。

隐形水印SynthID能否真正扛起最后一道防线

面对舆论质疑,谷歌方面强调,即便可见水印被关闭,其内容仍会保留两种技术层面的溯源手段:C2PA 内容凭证元数据,以及谷歌自主研发的隐形水印技术 SynthID。理论上,这两项技术构成了识别 AI 生成内容的第二道防线。

然而,这道防线的实际强度值得推敲。C2PA 元数据本质上依附于文件的附加信息层,去除方式与摆脱可见水印一样简单——只需简单裁剪、转格式或截图即可清除。

更棘手的问题在于,包括多数主流社交媒体平台在内的分发渠道,本身就会在用户上传内容时自动剥离部分或全部元数据。这意味着,任何有意传播虚假信息或误导性内容的人,甚至不需要主动采取任何反侦测措施,平台的常规处理流程就已经替他们完成了洗白工作。

相比之下,SynthID 的技术设计确实更为稳健。它并非依附在文件外层的元数据,而是将标识信息直接编码进图像的像素结构之中,理论上即便经过裁剪、压缩、缩放,甚至画质降低到模糊不清的程度,仍能被专门的检测工具识别出来。

科技媒体 Ars Technica 此前的测试也印证了这一点:SynthID 的抗干扰能力确实优于普通水印,图像需要被处理到严重失真、几乎失去可用价值的程度,才可能让检测系统漏判。

但即便如此,SynthID 也远非无懈可击。谷歌自身也承认,该技术并未针对对抗性攻击进行专门设计与加固,这意味着一旦有人存心研究破解方法,SynthID 的防护效果就会大打折扣。事实上,市面上已经出现了至少两款专门声称能够绕过SynthID 检测的商业化服务。

Rephrasy 和 SynthID Bypass,此外还存在不少开源工具和详细的破解教程在网络上流传。一位在 Medium 平台发表技术分析的作者甚至详细记录了自己的破解过程:耗费数周时间,处理超过12万组图像对比样本、200张原始 Gemini 生成图片,并对扩频编码技术进行了深入研究,最终才勉强找到能让解码器误判、置信度评分跌破识别阈值的方法。

这说明破解 SynthID 并非普通用户能够轻易做到,但对于有专业技术背景、且有强烈动机的团体或个人而言,这道防线并非牢不可破。

一次里程碑式的退步

从更宏观的视角审视,谷歌此次的产品调整,可以被视为人类逐步丧失区分真实与AI合成内容能力的进程中,又一个具有标志意义的节点。

此前,即便可见水印容易被裁剪掉,它至少作为一道默认的心理提示,让普通用户在浏览网络内容时,能对这可能是AI生成的这一事实保持一定的警觉。而当水印默认关闭、去除水印甚至不再需要任何额外操作时,这道最基础的警示线也就此消失。

对于那些以生产大量AI生成内容——不论是营销素材、社交媒体填充内容,还是更具争议性的虚假信息与深度伪造素材——为盈利手段的群体而言,这无疑是一项利好消息,意味着他们的产出效率将进一步提升,且更难被普通受众一眼识破。但对整个信息生态系统而言,这项改动无疑增加了辨别内容真伪的难度,进一步模糊了真实与虚构之间本已岌岌可危的边界。

截至目前,谷歌方面尚未就外界的质疑作出正式回应。但可以预见的是,随着 AI 生成技术的门槛持续降低、内容分发速度不断加快,类似的便利性与可信度之间的权衡,将会在越来越多的科技产品决策中反复上演。这场博弈的最终走向,或许将决定我们未来所看到的每一张图片、每一段视频、每一首曲子,究竟还能有多少值得信任的空间。

标签: 水印 谷歌 图像 ai synthid gemini 用户 内容 防线 人工智能

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。