资讯
近日消息，随着生成式人工智能技术的商业化步伐加快，网络上的虚假信息数量呈现爆炸性增长。根据身份验证平台Sumsub发布的权威数据显示，从2023年至2024年期间，全球深度伪造内容的数量惊人地激增了四倍之多。
到了2024年，深度伪造已经占据所有网络欺诈行为的7%，其形式五花八门，包括但不限于冒名顶替、非法账户接管以及更为复杂的社交工程攻击等一系列活动。
为应对这一问题，Meta发布了一款新的工具——Meta Video Seal，旨在通过在AI生成的视频中加入不可察觉的水印来打击深度伪造。这款工具于周四开源发布，旨在便于集成到现有的软件中，并与Meta之前推出的其他水印工具Watermark Anything和Audio Seal相辅相成。
Meta的人工智能研究科学家Pierre Fernandez在接受访时表示：“我们开发Video Seal的目的是提供更有效的视频水印解决方案，特别是用于检测人工智能生成的视频并保护原创性。”
尽管Video Seal并不是首个提出的视频水印技术，DeepMind的SynthID和微软的水印方法也在市场上已有一定应用，但费尔南德斯指出，现有的水印工具普遍存在一些不足之处。他表示：“虽然有其他水印工具，但它们在视频压缩后效果不佳，而视频压缩在社交平台上传播内容时非常常见；一些方法的运行效率也较低，无法开放或无法复制；此外，许多方法源自图像水印，但图像水印并不适用于视频。”
除了水印功能，Video Seal还可以在视频中嵌入隐藏信息，后续可以通过揭开这些信息来追溯视频的来源。Meta宣称，Video Seal能够有效抵抗模糊、裁剪等常见编辑手段，以及常用的压缩算法。
然而，Fernandez也承认，Video Seal存在一定的局限性，特别是在水印的可察觉程度与抗篡改能力之间的权衡。他指出，过度压缩和大幅编辑可能会破坏水印或使其无法恢复。
Meta面临的更大挑战是，开发者和行业人士缺乏使用Video Seal的动机，特别是那些已经在使用其他专有解决方案的用户。为此，Meta推出了一个名为Meta Omni Seal Bench的公共排行榜，用于对比不同水印技术的性能，并将在今年的主要AI会议ICLR上举办一场关于水印技术的研讨会。
Fernandez表示：“我们希望越来越多的AI研究人员和开发者能够在他们的工作中融入某种形式的水印技术，并希望与业界和学术界合作，推动该领域的更快发展。”
文明上网，理性发言，共同做网络文明传播者