太震撼了!AI生成文本中竟能应用不可见水印

Google DeepMind和Hugging Face最近推出了一项名为SynthID Text的新技术,这项技术能够在AI生成的文本中嵌入不可见的水印。这个水印对人类来说完全不可见,但可以被训练好的检测器识别出来,从而确保文本的真实性和来源,提升信息的可信度。

我开始思考未来我们使用AI生成内容的方式。随着AI技术的不断进步,许多内容创作的过程已经变得越来越依赖于AI。然而,SynthID Text的出现意味着我们需要更加谨慎地对待这些生成内容。这种水印技术虽然提高了信息的可信度,但也可能引发对AI生成内容的监管和隐私问题。

未来,我们可能需要更加明确地标识哪些内容是由AI生成的,哪些是人类创作的。这项技术无疑为我们提供了一个强有力的工具,但也提醒我们要在享受技术便利的同时,保持对其潜在影响的警惕。无论是从信息的透明度还是可靠性来看,SynthID Text都为我们提出了新的课题。

特别提醒

由于这项技术由Google DeepMind牵头开发,Gemini已经开始使用这种技术。今后,使用Gemini生成的文本时,请务必谨慎。

37 Likes

#快问快答移除

18 Likes

让学校知道了那大学生不就完了 :tieba_087:

8 Likes

这下只能OCR再粘贴了

1 Like

OCR是无效的,他这边只是让生成的结果有相应的特征,使得能够用特定工具来检测,而文本本身并没有问题

1 Like

把水印打在语言细节中,只有AI能看懂的表达。有点令人遐想了 :slightly_smiling_face:

2 Likes

那也许我们需要另一个去除特征的AI改写器了。

3 Likes

生成文字,贴deepl里面翻译成中文,随便改改,搞完再用deepl翻回去,小小检测器竟敢班门弄斧 :tieba_025:

我们要开始对抗检测技术了

Deepl翻译的质量也不是很高,使用它势必会影响效果

不一定要deepl,本地部署一个Yi 34b照样能翻(需要微调,翻galgame完全没问题)
只能说这种水印看看就好,和给声音加水印一个道理(过一遍hifigan或者vaegan抹的干干净净)
完全重建啥水印来了都没用(

这效果更差了:sob:

1 Like

你们都是有4090显卡的人啊!
我就只能用用API了(还是逆向的Open WebUI)

turnitin早就用上了,但是依然扛不住翻译+改写+翻回去,现在GPT的语言特征其实一眼就能看出来,加不加水印都无所谓 :tieba_025:

用Qwen2.5 72B来处理不知道效果要比Yi 34B要好一点不?

也倒是,这种水印稳定性聊胜于无,恐怕不实用

我也基本上用API,4090得干别的活
本地跑LLM吃不消。。。

类似写藏头诗那种玩法?

1 Like

你第二段一眼AIGC,都不用加水印

3 Likes

暗水印技术方案太多了,AI 能加这个我一点都不惊讶