F-droid
(F-Droid)
1
Google DeepMind和Hugging Face最近推出了一项名为SynthID Text的新技术,这项技术能够在AI生成的文本中嵌入不可见的水印。这个水印对人类来说完全不可见,但可以被训练好的检测器识别出来,从而确保文本的真实性和来源,提升信息的可信度。
我开始思考未来我们使用AI生成内容的方式。随着AI技术的不断进步,许多内容创作的过程已经变得越来越依赖于AI。然而,SynthID Text的出现意味着我们需要更加谨慎地对待这些生成内容。这种水印技术虽然提高了信息的可信度,但也可能引发对AI生成内容的监管和隐私问题。
未来,我们可能需要更加明确地标识哪些内容是由AI生成的,哪些是人类创作的。这项技术无疑为我们提供了一个强有力的工具,但也提醒我们要在享受技术便利的同时,保持对其潜在影响的警惕。无论是从信息的透明度还是可靠性来看,SynthID Text都为我们提出了新的课题。
特别提醒
由于这项技术由Google DeepMind牵头开发,Gemini已经开始使用这种技术。今后,使用Gemini生成的文本时,请务必谨慎。
37 Likes
F-droid
(F-Droid)
5
OCR是无效的,他这边只是让生成的结果有相应的特征,使得能够用特定工具来检测,而文本本身并没有问题
1 Like
bracy
6
把水印打在语言细节中,只有AI能看懂的表达。有点令人遐想了 
2 Likes
bfloat16
(bfloat16)
8
生成文字,贴deepl里面翻译成中文,随便改改,搞完再用deepl翻回去,小小检测器竟敢班门弄斧 
F-droid
(F-Droid)
10
Deepl翻译的质量也不是很高,使用它势必会影响效果
bfloat16
(bfloat16)
11
不一定要deepl,本地部署一个Yi 34b照样能翻(需要微调,翻galgame完全没问题)
只能说这种水印看看就好,和给声音加水印一个道理(过一遍hifigan或者vaegan抹的干干净净)
完全重建啥水印来了都没用(
F-droid
(F-Droid)
13
你们都是有4090显卡的人啊!
我就只能用用API了(还是逆向的Open WebUI)
bfloat16
(bfloat16)
14
turnitin早就用上了,但是依然扛不住翻译+改写+翻回去,现在GPT的语言特征其实一眼就能看出来,加不加水印都无所谓 
F-droid
(F-Droid)
15
用Qwen2.5 72B来处理不知道效果要比Yi 34B要好一点不?
bfloat16
(bfloat16)
17
我也基本上用API,4090得干别的活
本地跑LLM吃不消。。。
normandy
(诺曼底企鹅)
20
暗水印技术方案太多了,AI 能加这个我一点都不惊讶