本帖使用社区开源推广,符合推广要求(点击展开申明)
本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:
- 我的帖子已经打上 开源推广 标签: 是
- 我的开源项目完整开源,无未开源部分: 是
- 我的开源项目已链接认可 LINUX DO 社区: 是
- 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
- 以上选择我承诺是永久有效的,接受社区和佬友监督: 是
以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出
自从我的 app 的功能被别人几下就抄出来复刻之后,我就在想怎么报复回去。
通过几轮和AI的斗智斗勇想到,能不能通过二进制投毒让 rea 拿到错误信息,然后构造一堆非常相似的函数浪费攻击者的 token,最后超出预算停掉;针对闭源大模型还可以埋点蜜罐,比如刻意夹带一些逼真的假密钥等敏感词触发模型安全拦截让它自己停下来,或者塞一堆假系统报错引导 AI 转头去排查环境问题。
有了初始思路,就让 opus 和 argon 按照这个思路搓了一个防守端针对 rea 的项目,用起来跟 rea 一样方便,就叫 bla 吧 —— re 是 red,那 bl 就是 blue。
目前做的模拟红蓝测试基本都防住了
抛砖引玉,未来防守端也一定是大事情,欢迎有想法的佬友来共创:
GitHub - qybaihe/bla:
BLA (Blind LLM Agents) — Adversarial defense shield that protects binaries, Electron apps, JS bundles, Python, and WebAssembly against AI reverse-engineering agents like REA. Poison → Exhaust → Hallucinate. · GitHub