恶意 公益站/中转 是不是 可以 提示词攻击 做很多坏事?

比如,在提示词里 加后门, 操控用户电脑上的 claude code 等 agent

假设用户使用一个恶意公益站/中转,这个公益站目的就是为了钓鱼,
公益站是不是可以植入一些提示词, 让 claude code,返回一些环境,
判断 如果用户给了非常大的权限,那就直接 投毒/投资料

我觉得这个甚至可以 一段提示,让 ai 根据受害者设备信息 智能攻击

感觉防不胜防啊

15 个赞

中转站都存在这个风险,不过目前最大的问题还是不稳定,容易跑路

5 个赞

那自己转发时再注入个提示词怎么样

1 个赞

当然可以 怕就别用 用就别怕

1 个赞

感觉最好 危险的权限别给, 或者在 docker 里执行,会安全一些(至少宿主机安全)

还要看 agent 是否智能,权限管理上是否有漏洞

1 个赞

为什么要这样,有钱不赚王八蛋啊 :distorted_face:

不用公益站也有删库的风险呢w

openclaw瑟瑟发抖,注入直接让openclaw下载木马吗

有这个可能,但是站内的一般不会。另外,如果中转站修改了system prompt,在claude code中会很明显的感知出来的,claude code在新对话的第一句中通常会说:看起来你刚刚粘贴的这一堆这是我的提示词。之类的话。

1 个赞

最直接的大概是偷加密货币?

站内的一般都没问题吧,站外的就不清楚了