(资料图片仅供参考)

谷歌DeepMind团队近日推出了一款名为SynthID的工具，旨在应对日益增长的AI生成图像问题。该工具可以在AI生成的图像中嵌入人眼不可见的水印，但可以用专门的人工智能检测工具检测出来，以区分真实和虚假的内容。该工具已在谷歌云平台上向部分客户开放。SynthID的原理是在图像的像素中嵌入一个水印，但不会影响图像本身的质量和体验。该水印可以抵抗裁剪、缩放等常见的图片编辑操作，只有专门的AI检测工具才能识别出来。谷歌DeepMind的CEO Demis Hassabis表示，这种水印随着AI模型的改进，会变得更加隐蔽和强大。SynthID工具会告诉用户图像是否为人工智能生成。Hassabis认为，SynthID是为了解决深度伪造等潜在危险的问题而开发的。在2024年美国和英国即将举行大选的背景下，建立AI图像识别系统是非常重要的。他还表示，SynthID的基本思想也可以应用于视频和文本等其他媒体。目前，SynthID只能在谷歌云平台上使用，主要针对使用Vertex AI平台和Imagen图像生成器的客户。Hassabis希望通过真实场景的测试，让SynthID变得更好。然后，谷歌将把它用于更多地方，与更多合作伙伴分享，并提高公众的意识和教育。除了谷歌之外，还有许多其他公司也在致力于建立AI保护和安全系统。例如，Meta、OpenAI等公司正在使用一种名为C2PA的协议，利用加密元数据来标记AI生成的内容。Hassabis说，SynthID可能成为一个互联网范围内的标准之一。但他也强调，这只是一个初步尝试，并不是解决深度伪造问题的万能药。他说，“在我们证明了技术基础部分有效之前，考虑扩展和社会讨论还为时过早。”

标签：