一、独特的水印技术难以察觉
这种由Meta与法国国家数字科学技术研究院Inria合作开发的技术,名为“Stable Signature稳定签名”。它可以在类似Stable Diffusion这种潜在扩散模型生成的图片中嵌入隐形的二进制水印。
这种水印肉眼不可见,但可以通过专门的算法加以识别。即使图片被人为编辑、裁剪,水印仍可被检测到。
具体来说,该技术是一个两阶段的过程:
第一阶段,两个卷积神经网络被同时训练。一个负责将图片及随机信息编码成水印图,另一个负责从修改后的水印图中提取信息。训练目标是保证编码和提取的信息一致。之后只保留提取网络。
第二阶段,对生成模型的解码器进行微调,使其输出包含指定的固定签名。这个优化过程非常快速高效。
此外,如果用户对模型进行个性化调教(personalization),水印也不会受影响。
二、有望成为监控AI内容的有效手段
AI生成图片的兴起,既让大众耳目一新,也带来一定问题。此前就有使用AI合成的关塔那摩炸弹爆炸图片在网上传播,其真假难辨。
Meta声称Stable Signature技术在监控AI内容方面大有用武之地。例如照片网站可以用它追踪模型的使用情况,事实核查机构可以验证图片来源,艺术比赛也可以检测作品的真伪。
当然,这项技术还处在早期阶段,其应用范围和监控能力还有待进一步研究。但无可否认,它为应对日益泛滥的AI生成内容提供了一线希望。