来客网

【潮风向】Claude给文字做隐形水印 看不见、删不掉,还可以查出AI的痕迹

声明:本文转载自 「星洲网」, 或因排版与篇幅原因进行过编辑,内容未经本站独立核实,不代表本站立场、观点或建议。 如涉及版权问题,请联系我们,核实后立即删除。 [ 免责声明 ]

如果你经常用Claude修饰文章、撰写企划书或翻译作品,可要留意了。Anthropic近期宣布,未来Claude生成的文字将加入一种看不见的“隐形水印”。

报道:本刊 林德成
照片:网络照片

Anthropic表示,这是为了符合欧盟《人工智能法案》(EU AI Act)第50条的要求。根据规定,AI生成的文字、图片、音频和视频,都必须加入机器可识别的标记,让人们能够检测出这些内容是否由AI生成或处理。

据悉,Claude采用了Google DeepMind在2024年提出的SynthID-Text水印方法。Anthropic表示,Claude使用的是该方法的一个版本。不过,读者在阅读这些文字时,并不会看到任何实际的水印,只有拥有特定密钥的人,才能检测一段文字是否留下Claude的水印痕迹。

Anthropic称,这种水印不会影响Claude的输出质量,也不需要额外生成token。另外,水印不包含任何身分识别功能,因此无法追溯到背后的用户、组织或聊天记录。

欧盟《人工智能法案》(EU AI Act)第50条指出,AI生成的文字、图片、音频和视频,都必须要有机器能够识别的标记,让人们能够检测出这些内容是否由AI生成或处理。 Anthropic称,这种水印不会影响Claude输出的质量,也不需要额外生成token。同时,水印不包含任何身分识别功能。(图:法新社)
文字水印技术有局限

不过,这项技术也有局限。如果把一篇文章交给Claude,只要求修改语法和标点,那么只有AI重新生成的部分才有水印;若修改幅度太小,水印的痕迹太少,那么检测结果可能就不太明显。

因为大部分文字都是由人类撰写,并非AI生成,因此几乎没有多少“内容”可以留下水印。但如果要求Claude直接翻译一篇文章,情况就不同,整篇翻译内容都会带有水印。

修改文字可以绕过水印?

那么,修改文字可以绕过水印吗?如果只是少量修改,是无法完全去除水印。除非重新改写整篇文字,换掉每一个词语,那么才有可能削弱或去除原有的水印痕迹。

至于如何检查一段文字是否由Claude生成,Anthropic表示,未来将推出水印检测API。不过,目前尚未透露这项服务是否会开放给用户或机构。

Anthropic特别强调,这项技术不能证明一段文字“一定是AI写的”。它只能证明这段文字有多大概率是由Claude生成。

Anthropic强调,这项技术不能证明一段文字“一定是AI写的”。它只能证明这段文字有多大概率是由Claude生成。
网民担心“误判”

在Reddit上,有网民担心会产生“误判”。例如,他们只是用Claude整理、修改自己原本写好的论文,最后却因为部分文字有水印,被教授、学术期刊误认为整篇文章都是AI生成,从而遭到不必要的质疑。

也有人认为,只要把文字上传到另一个AI工具,再修改和润饰一次,就可以削弱或“清除”原来的水印。

更多【e潮】: 【科技简讯】AI抢光内存!微软优化Windows 11,未来8GB电脑也可以跑得顺 【科技简讯】WhatsApp群组升级! @all一键通知全员、投票可以限时结束 打开全文

评论 (0)