划重点:

- 随着生成AI技术的迅速发展，人们越来越难以区分AI生成的内容和人工生成的内容。

- 数字水印技术是否能帮助人类重新获得对内容的控制是一个备受争议的问题。

- 尽管一些专家认为水印技术是建立和维护AI时代信任的多方面方法的一部分，但也有人认为技术挑战和潜在的滥用问题仍然存在。

站长之家 11月7日 消息:随着生成AI技术的飞速发展，人们越来越难以区分AI生成的内容和人工生成的内容。这一挑战引发了一个重要问题:数字水印技术是否能帮助人类重新获得对内容的控制?

数字水印是一种类似于纸币上的水印，它被认为是不可改变的内容附加物，用来指示其来源或出处。最近，美国总统乔·拜登在一项行政命令中要求商务部制定内容认证和数字水印的指南，以清晰标记AI生成的内容。

图源备注：图片由AI生成，图片授权服务商Midjourney

尽管一些技术公司已经在利用数字水印技术，例如Google Cloud的Vertex AI，但数字水印是否能帮助我们解决AI信任问题仍然存在争议。

支持数字水印的人认为，这是在规范和建立AI信任的多方面方法中的一部分。发展GenAI技术的Jasper公司的CEO Timothy Young表示，“发布数字水印来证明官方联邦机构内容的真实性是减少错误信息和教育公众如何对其消费的内容进行批判性思考的必要步骤”。

然而，目前数字水印技术还面临挑战。马里兰大学的计算机科学教授Soheil Feizi告诉Wired杂志，他的团队设法绕过了所有数字水印技术。因此，数字水印技术是否能跟上AI创新的速度，以确保有效性，仍然是一个关键问题。

此外，数字水印的技术挑战也备受关注。Smartling公司的副总裁Olga Beregovaya表示，“政府和监管机构很少关注‘数字水印AI生成内容’的概念。这是一个巨大的技术工程，因为AI生成的文本和多媒体内容往往难以与人工生成的内容区分开来。”

在解决这个问题时，还需要得到其他国际机构的支持。数字水印是否能成功需要得到其他国家的法律支持，而不仅仅是美国。Eclipse Ventures风险投资公司的高级投资副总裁Justin Selig表示，“总的来说，规范模型输出，如数字水印，将更为简单。然而，关于输入方面的任何指导（用于模型的输入、训练过程、批准等）将几乎不可能实施。”

尽管存在技术挑战，数字水印可能会被包含在欧洲联盟提出的AI法案中。欧盟委员Thierry Breton在今年早些时候的一场辩论中表示，“我们需要为所有AI生成的内容标记水印。”

数字水印技术有望在克服技术障碍的情况下，在帮助区分计算机生成和真实内容方面发挥一定作用。然而，数字水印可能不会完全消除建立和维护AI时代信任的挑战，可能需要进一步的技术层面和方法。