AI模型训练数据投毒严重，各位还是要当心啊！

开发调优
, ,
1

928×317 58.8 KB

写着写着莫名其妙把我的链接换成了TG上的钓鱼链接，你说恐怖不恐怖？当然我这个还没什么呢，前段时间就有人用ChatGPT来写比特币交易机器人。结果怎么着，在电影里才能看到的情节发生了，ChatGPT写出的代码中竟然有钓鱼链接，成功的把他钱包的安全信息直接泄露给了黑客，导致他比特币钱包里面的钱全部被划走了:tieba_087:

模型投毒原理

这实际上是黑客在GitHub是创建大量含有恶意代码的仓库，他就放在上面等着AI去学，AI学完之后，就能让他的恶意代码肆意传播，不仅传播的远，而且危害性极大。

教训

以后用AI写出来的代码，都要先检索一遍，搜索一下，看看是不是有https或者http ，初步排查一下，看看是不是有未知的外部连接。最好是自己仔细看过一遍再拿去用。实在不行的，用不同的模型互相检查对方生成的代码是否有安全问题。

160 个赞
2

啊？恐怖如斯

1 个赞
3

居然还有这种事

12 个赞
4

太恐怖了 :upside_down_face:

5 个赞
5

佬友 这个文章我转载到博客，可以？

2 个赞
6

转载可以，但是要标明作者和出处。

7

居然还有这样

24 个赞
8

可能不是AI，就是API的来源给你换了。AI的大厂这个风控还是有的。

7 个赞
9

让人害怕

8 个赞
10

只要AI动过的代码，绝对要检查的。

6 个赞
11

什么恐怖G7人

14 个赞
12

key放到环境变量

13

学到了！ :tieba_087:

14
1 个赞
15

插入，防不胜防

16

粗思极恐

17

别提了:joy: 开始用llm之后连谷歌翻译中文也被污染了

IMG_0738
IMG_07381622×362 63.7 KB

IMG_5606
IMG_56061544×390 66.6 KB

5 个赞
18

这个就离谱了

19

真的是细思及恐

20

这个真的绷不住了