随着政治压力的加剧，谷歌发布了AI数字水印工具

谷歌发布了AI数字水印工具

随着政府对AI生成内容的标签要求增加，Google DeepMind发布了一个潜在的解决方案：一个水印工具。

该系统名为SynthID，利用深度学习将数字标记嵌入图像的像素中。据DeepMind称，水印对人眼是无法察觉的，但可以通过算法检测出来。

这家总部位于英国的研究实验室表示，水印不会损害图像质量。即使在添加滤镜、改变颜色和裁剪等修改之后，水印仍然可被检测到。

这个概念类似于应用于电影和库存照片的水印。但在这种情况下，目标不是保护权利持有人免受侵权，而是保护观众免受欺骗。

Google DeepMind的共同创始人兼首席执行官Demis Hassabis在X上表示：“尽管SynthID不是对抗虚假信息的万全之策，但它是解决当今紧迫的AI安全问题的一个有前途的技术方案。”

SynthID的发布正值对生成式AI日益关注的背景下。全球各国政府已经对篡改图像破坏选举、扭曲现实和误导公众的行为发出警告。

最近在罗恩·德桑蒂斯的总统竞选视频中曝光了这些风险。乍一看，该视频似乎展示了唐纳德·特朗普与领导白宫COVID-19疫情应对的安东尼·福奇拥抱和亲吻的真实照片。但法医专家认为这些图像是深度伪造。

中国已经对这种技术实施了严格的规定。今年1月，中国规定使用人工智能生成的内容必须进行标注。欧盟也正在实施类似的规定。

“我们需要通过添加水印的方式对所有由AI生成的内容进行标注，”欧盟委员Thierry Breton在6月表示。

美国也在推动公司识别由AI生成的内容。在上个月的白宫会议之后，Google和其他六家科技巨头承诺开发水印系统。

SynthID是履行这些承诺的一步，但该系统仍然处于试验阶段。最初，该工具只对Google的云计算业务的一些付费客户开放。它也只适用于使用Imagen艺术生成器生成的内容。

这种情况可能会在未来发生变化。根据Google的说法，SynthID可以扩展到其他AI模型。该公司还计划将该工具与其他产品整合。

各国政府和监管机构将密切关注这一进展。随着美国、印度和英国即将举行选举，AI所带来的威胁越来越近。