記者吳立言／綜合報導
Anthropic 近期開始為部分 Claude 模型生成的文字加入不可感知的 AI 水印，希望提高 AI 生成內容的辨識度。不過功能推出後，開發者也迅速推出多款去水印工具，AI 水印與移除工具的攻防隨即展開。
▼Claude AI水印才推出就遇對手。（圖／路透）
Anthropic 上周宣布，部分 Claude 模型會透過選詞方式留下統計特徵形成的水印，即使使用者複製貼上文字，相關標記仍可能保留。Anthropic 表示，推出水印是為履行歐盟《人工智慧法案》（AI Act）的相關承諾。
不過，部分使用者擔心，即使只是使用 Claude 校對、翻譯或摘要，最終文字也可能帶有 AI 標記。近期 Google Trends 上「AI watermark remover」（AI 水印移除工具）的搜尋熱度較前一個月增加約 60%。
開發者火速推出去水印工具
巴黎科技創業者 Guillaume Meyer 在 Anthropic 公布計畫數天後，便推出開源工具「Watermarks Remover」，透過移除隱藏字元與中繼資料，再重新改寫文字來破壞可能存在的水印模式。目前該專案在 GitHub 已獲得超過 1.4 萬個 Star。
另一名開發者 Ansh Aneja 也在 Anthropic 宣布功能當天推出 Claude 去水印工具，之後再發布本地端開源版本 MarkScrub。他宣稱工具曾在一天內從 0 名使用者增加至 8,500 名，但相關數字目前無法獨立確認。
水印仍面臨技術限制
蘇黎世聯邦理工學院研究人員 Thibaud Gloaguen 指出，重新措辭就可能破壞 AI 水印所依賴的統計模式，因此水印技術仍存在先天限制。
法律層面同樣存在疑問。歐盟要求 AI 服務提供商為生成內容加入持久性標記，但目前並未明確禁止第三方開發或分享去水印工具。不過，如果工具利用 AI 重新生成內容，提供商是否需要為新內容加入標記，仍可能涉及《人工智慧法案》規範。
Anthropic 預計未來還會推出文字偵測 API，水印則會逐步擴大至舊款模型。隨著水印與去水印工具同步發展，AI 生成內容的來源辨識也將面臨新的技術與法律挑戰。
每日新聞精選 免費訂閱《ETtoday電子報》分享給朋友：
追蹤我們：
※本文版權所有，非經授權，不得轉載。[ ETtoday著作權聲明 ]※
评论 (0)