近日消息,面对生成式人工智能(Gen AI)驱动下深度伪造和合成媒体内容日益增多的挑战,众多机构正积极优化数字水印技术,以此作为追溯内容原创性和传播路径的关键手段,确保信息的真实性和可验证性。
尽管目前还没有一个组织完全成功,但 “内容来源和真实性联盟”(C2PA)正在壮大其成员队伍。C2PA 宣布,亚马逊已成为该组织的新一届指导委员会成员。
C2PA 是一个隶属于 Linux 基金会的开放性技术标准机构,旨在通过制定技术标准来应对网上虚假信息的盛行。该组织由 Adobe 共同创立,负责维护 “内容凭证” 这一方法,旨在提高数字内容的来源透明度。内容凭证能够显示某个内容是如何以及何时生成或修改的。C2PA 希望将内容凭证发展为一个行业标准。
加入 C2PA 后,亚马逊承诺将把内容凭证与其企业 AI 图像生成器 Titan Image Generator 的版本一和二关联起来。亚马逊表示,借内容凭证消费者将能够验证 AI 生成内容的来源真实性。
此外,亚马逊还计划在其 AWS Elemental MediaConvert 服务中添加来源工具,这是一项用于大规模码内容以供广播和多屏幕分发的文件处理服务。这样一来,新闻机构、体育广播公司和内容聚合者等客户在分享视频内容时,能够核实其来源。
AWS 的生成 AI 副总裁 Vasi Philomin 表示,由 Titan 生成的图像默认都含有隐形水印,这将有助于减少虚假信息的传播。他还指出,加入 C2PA 并采纳内容凭证,标志着亚马逊在推动负责任的 AI 创新道路上迈出了重要一步。
不过,C2PA 的成员名单引发了一些数字内容认证组织的关注。今年七月,数字内容认证机构 Numbers Protocol 及其他区块链和 AI 组织共同成立了 “创意起源联盟”,这是一个 “、透明且去中心化的替代方案”,旨在为所有成员提供平等的发言权,并让创作者参与决策。
该联盟的成立是由于 Adobe 的一项服务条款更新,引发了创作社区对大公司的担忧。创意起源联盟希望在隐私和开源技术方面为小型声音发声,将自己定位为 C2PA 的 “巨人”。
文明上网,理性发言,共同做网络文明传播者