U
技术突破

Claude合规水印扩围,两款旧模型存绕过漏洞

为应对欧盟《人工智能法案》12月的合规期限,Anthropic正将文本水印扩展至另外四款Claude模型。但报道指出,Opus 4.6和Sonnet 4.6仅需调整一个采样参数即可绕过水印,公司目前以合规警告回应。

👁 2阅读 💬 0评论
Claude合规水印扩围,两款旧模型存绕过漏洞
📝 全文约 2066 字 · 预计阅读 5 分钟

面向欧盟合规要求推进的文本水印部署,出现了可以通过模型参数绕过的缺口。据The Decoder报道,Anthropic正把文本水印扩展至另外四款Claude模型,以应对欧盟《人工智能法案》12月的合规期限。然而,在两款较旧的模型Claude Opus 4.6和Claude Sonnet 4.6上,开发者只需调整一个采样参数,就能绕过水印。报道指出,Anthropic针对这一漏洞采取的应对是发出合规警告。这让此次更新的关注点从水印覆盖范围,转向水印能否在实际调用中保持有效。

新增四款模型,合规部署仍有缺口

此次动作属于Anthropic文本水印机制的进一步扩围,而非首次引入该机制。按照报道,新增覆盖对象共有四款Claude模型,推动部署的直接背景是欧盟《人工智能法案》的12月期限。需要明确的是,所提供的报道素材没有说明这一期限对应的具体年份、适用条款,也没有列出全部四款新增模型的名称。因此,现有信息能够确认的是扩围规模、合规动机及被点名模型的漏洞,不能据此补全其他产品的部署情况。

文本水印通常用于在生成内容中留下可由专门方法识别的信号,为判断内容是否由人工智能生成提供依据。它未必表现为读者能够直接看到的文字标识,也不等同于在回答末尾附上一句来源说明。从合规实践看,把水印功能接入模型只是一个环节;当开发者改变调用设置时,机制是否继续工作,同样影响其实际价值。此次报道揭示的正是这一层面的落差:模型被纳入水印覆盖范围,并不意味着所有可用配置都会产生同样的标记效果。

一个采样参数,影响两款旧模型

报道明确点名的受影响产品是Claude Opus 4.6和Claude Sonnet 4.6,并将它们描述为较旧的模型。其关键发现是,开发者能够通过修改单个采样参数绕过文本水印。与需要修改模型本身或搭建复杂处理流程的情形相比,这意味着漏洞与模型调用时的配置有关。不过,素材没有公开具体参数名称、调整数值、适用接口或复现条件,也没有提供绕过成功率。因而,不能进一步断言任意开发者在任意调用场景下都能得到相同结果。

从一般技术背景看,采样参数用于影响模型从候选内容中选择后续输出的方式,可能改变生成文本的随机性和分布特征。某些文本水印方案也会利用生成过程中的统计特征留下识别信号,两者因此可能存在相互影响。这里需要区分技术背景与已证实事实:报道给出的事实是单个采样参数可使上述两款模型的水印被绕过,但没有披露Anthropic的具体水印算法,也没有解释漏洞形成的技术路径。把这一现象直接归因于某种算法设计缺陷,仍缺少依据。

合规警告能提醒责任,不能证明漏洞已修复

按照The Decoder的表述,Anthropic对这一绕过缺口的回应仅是合规警告。这种做法可以向开发者传达使用边界,但现有素材没有提供警告原文,也未列出对应的处罚措施或执行方式。报道同样没有给出公司已经限制相关参数、阻止特定配置调用,或通过模型更新消除漏洞的证据。因此,发出合规提醒与完成技术修复,应当被视为两件不同的事。现阶段不能把警告本身当作缺口已经关闭的证明。

从模型提供商的角度看,扩大水印覆盖有助于推进产品的合规准备;从接入模型的开发者角度看,实际问题则是现有应用配置会不会影响水印,以及需要遵循什么使用约束。这是同一部署过程中的不同关注点,并非素材中已经出现的双方公开辩论。所提供内容没有收录Anthropic高管、独立研究人员或欧盟监管机构的直接引语,也没有呈现监管部门对此事的正式判断。对事件的评价应保留这一证据边界,不能将报道中的漏洞描述直接等同于已经成立的违法结论。

水印是否可靠,要看真实调用条件

这一事件的影响在于,它提醒采用生成式人工智能的企业,不能只根据产品说明中是否写有“文本水印”来判断内容标记能力。对于继续使用Opus 4.6或Sonnet 4.6的应用,参数设置已经成为需要核对的因素。如果生成结果被用于对外发布、内容审核或来源识别,水印状态的不确定性就可能影响后续流程对输出来源的判断。这是基于报道事实能够作出的风险分析,但素材没有说明漏洞是否已被大规模利用,也没有报告具体受影响客户或实际损失。

与此同时,水印适合被理解为来源识别的一个技术环节,而不是内容可信度的完整证明。即便文本带有可识别水印,也不能因此认定其中的信息准确;反过来,在存在绕过缺口的情况下,检测不到水印也不足以证明内容一定由人类撰写。此次扩围还留下若干待解问题,包括另外新增模型是否存在类似限制、两款旧模型是否会获得修复,以及公司是否会进一步说明参数与水印之间的关系。原始素材没有给出这些问题的答案,也没有公布后续修复时间表。

围绕12月合规期限,Anthropic已经明确推进的动作是把文本水印扩展至另外四款Claude模型;接下来值得关注的是,覆盖范围能否与实际有效性同步提高。对于已被点名的两款旧模型,后续若出现技术修复、配置限制或更详细的官方说明,才能进一步判断绕过缺口如何被处理。在此之前,这起事件呈现出的核心问题仍然清晰:合规功能的上线进度,需要与它在真实开发环境中的可验证表现一并考察。

💬 评论