微新创想(idea2003.com) 10月7日讯 今年7月，白宫宣布七家大型科技公司承诺实施人工智能安全措施，其中亚马逊、谷歌和OpenAI均特别强调水印技术的重要性。这项技术通过在文本和图像中嵌入可识别信息，旨在有效区分AI生成内容与人类原创作品，从而遏制错误信息、欺诈和深度伪造等问题的蔓延。通过为AI材料打上独特标记，该技术能够帮助识别者判断内容是否为机器制造，有效防止其被冒充为人类创作。
然而，学者们对此技术仍持谨慎态度。近期，马里兰大学研究团队取得重大突破，成功开发出一种绕过AI生成图像中所有水印保护的方法。计算机科学教授Soheil Feizi在接受Wired采访时明确指出，目前尚无可靠的水印技术能够有效保护AI生成图像，其团队已成功破解所有现有水印方案。这一发现表明，恶意行为者仍能轻易绕过水印限制，且存在将水印添加到人工图像中引发误报的风险。
数字水印技术已被AI行业广泛推崇，被视为判断图像是否由AI生成的关键工具。然而，当前技术仍存在明显缺陷。Feizi团队在预印本论文中详细阐述了破解方法：采用微妙图像扰动的水印方案，可通过扩散净化攻击轻松破解；而大量扰动的水印技术，则可通过对抗攻击模型实现高效移除。更严重的是，恶意行为者可能利用水印技术恶意标记艺术家作品，将其错误识别为AI生成内容，从而损害艺术家声誉。这一发现警示我们，在追求技术安全的过程中，仍需不断探索更可靠、更难以被操纵的解决方案。