近期，美国总统拜登近日颁布了一项关于人工智能的行政命令，以应对技术领域所面临的一些巨大挑战，其中包括如何识别和验证图像的真伪。行政命令要求政府主导制定新的标准，为AI生成的内容添加数字水印，以便帮助用户区分真实图像和虚假图像，并确定其所有者。

数字水印技术看似是一个简单的解决方案，并且得到了白宫和科技行业的支持。但是，专家们却对此表示担忧，认为它并非解决虚假信息问题的唯一途径。

当前，许多领先的人工智能公司已经在他们的产品中加入了水印技术。这些水印有些容易被剪切，例如OpenAI在DALL-E图像上的标记。然而，还有一些更加持久的水印。例如，谷歌在今年八月份宣布了SynthID的测试版，这是一种可以无损地插入到图像像素中的不可察觉的水印。这种方法允许AI检测软件在图像被剪裁或调整大小后进行认证，同时避免了降低或显著标记图像。

将数字水印嵌入到AI生成内容的像素和元数据中的“高扰动”方法被证明是应对有害虚假内容的最有前途的解决方案之一。然而，像SynthID这样的产品不能是唯一的解决方案。谷歌也表示，这项技术“无法防范极端图像篡改”。

本月早些时候，马里兰大学的研究人员发布了一篇关于他们如何破解当前技术下所有可用水印方法的预印本。他们不仅能够破坏这些水印，还能够将虚假水印插入图像中，从而产生虚假阳性结果。

随着DALL-E和Midjourney等服务的出现，图像生成变得更加容易，导致互联网上充斥着由AI生成的虚假内容。马里兰大学的计算机科学副教授Soheil Feizi在接受采访时表示：“在我看来，给生成模型的输出加水印不会是解决AI虚假信息问题的切实可行方案。这个问题在理论上是不可能可靠解决的。”

Adobe本月宣布已经建立了“透明度标志”，或一种视觉标记，用于帮助确定图像的出处。这个标记可以添加到在Photoshop、Premiere和最终在Microsoft的Bing中创建的图像和视频上，以显示谁拥有或创建了数据。在实际操作中，当有人将鼠标悬停在标记上时，它将显示有关图像是如何生成的信息，比如是否由AI生成。

然而，验证和跟踪AI生成内容也存在着自己的风险。将个人可识别信息嵌入到图像的元数据中可以帮助内容创建者拥有其产品，但这引发了有关用户隐私的新担忧。

建立一个可互操作且可靠的图像认证系统需要时间。目前尚不清楚这项命令将如何影响人工智能公司，以及政府可能会实施什么规定。

AIGC生成的内容有数字水印吗

数字水印长什么“样子”？