周一,Meta宣布将“在我们的应用程序中将‘人工智能制作’标签更新为‘人工智能信息’,人们可以点击获取更多信息”,此前人们抱怨他们的照片标签应用不正确。前白宫摄影师PeteSouza指出,在上传一张40年前在篮球比赛中拍摄的照片时,会弹出这个标签,他推测可能是使用Adobe的裁剪工具和拼合图像触发了它。
Meta发言人KateMcLaughlin表示:“正如我们从一开始就说的那样,我们正在不断改进我们的AI产品,并且我们正在与行业合作伙伴密切合作,共同研究AI标签方法。”新标签应该更准确地表明内容可能只是经过修改,而不是让它看起来像是完全由AI生成的。
问题似乎在于AdobePhotoshop等元数据工具应用于图像以及平台如何解释这些元数据。在Meta扩大了其关于标记AI内容的政策后,发布到Instagram、Facebook和Threads等平台上的真实图片被标记为“使用AI制作”。
然而,Adobe指责Meta及其关于如何呈现元数据的决定。“我们知道,如今数百万用户使用人工智能对内容进行与人工智能出现之前相同的美学改进。这就是为什么在标记人工智能时,我们认为平台只有在图像完全由人工智能生成时才应该将内容标记为由人工智能制作或生成,”Adobe内容真实性计划(CAI)高级总监AndyParsons在发给TheVerge的电子邮件声明中表示。
您可能会首先在移动应用程序上看到新的标签,然后再在网页视图上看到,正如McLaughlin告诉TheVerge的那样,它开始在所有表面上推广。
单击标签后,它仍会显示与旧标签相同的消息,其中更详细地解释了应用该标签的原因,以及该标签可能涵盖完全由AI生成或使用包含AI技术的工具(如GenerativeFill)编辑的图像。像C2PA这样的元数据标记技术本应使区分AI生成的图像和真实图像变得更简单、更容易,但这一未来尚未到来。
安迪·帕森斯(Adobe):
内容凭证是一种开放的技术标准,旨在为数字内容提供重要信息,如“营养标签”,例如创作者的姓名、图像的创建日期、使用的工具以及所做的任何编辑,包括是否使用了生成式人工智能。在Adobe,我们对将人工智能融入创意工作流程的前景和潜力感到兴奋,这将改变人们的想象、构思和创作方式。在一个任何数字内容都可以编辑的世界里,我们认识到内容凭证承载上下文的重要性,以明确内容的创建和编辑方式,包括内容是否完全由生成式人工智能模型生成。内容凭证标准从一开始就被设计为清楚地表达这种背景。
通过领导内容真实性倡议(CAI)和共同创立内容来源与真实性联盟,我们了解如何最好地表达内容的编辑方式是一个不断发展的过程。我们知道,如今数百万用户使用AI对内容进行与AI出现之前相同的美学改进。这就是为什么在标记AI时,我们认为平台只有在图像完全由AI生成时才应该将内容标记为由AI制作或生成。这样,人们就会很容易地明白他们正在查看的内容完全是假的。如果生成AI仅用于编辑过程,则应该可以查看内容凭证的完整上下文,以提供有关创建者可能想要传达的真实性、编辑或基本事实的更深入的上下文。