【开源推广】REA大行其道,作为独立开发者,我的方案是绕晕它!

本帖使用社区开源推广,符合推广要求(点击展开申明)

本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:

  • 我的帖子已经打上 开源推广 标签: 是
  • 我的开源项目完整开源,无未开源部分: 是
  • 我的开源项目已链接认可 LINUX DO 社区: 是
  • 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
  • 以上选择我承诺是永久有效的,接受社区和佬友监督: 是

以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出


自从我的 app 的功能被别人几下就抄出来复刻之后,我就在想怎么报复回去。

通过几轮和AI的斗智斗勇想到,能不能通过二进制投毒让 rea 拿到错误信息,然后构造一堆非常相似的函数浪费攻击者的 token,最后超出预算停掉;针对闭源大模型还可以埋点蜜罐,比如刻意夹带一些逼真的假密钥等敏感词触发模型安全拦截让它自己停下来,或者塞一堆假系统报错引导 AI 转头去排查环境问题。

有了初始思路,就让 opus 和 argon 按照这个思路搓了一个防守端针对 rea 的项目,用起来跟 rea 一样方便,就叫 bla 吧 —— re 是 red,那 bl 就是 blue。

目前做的模拟红蓝测试基本都防住了

抛砖引玉,未来防守端也一定是大事情,欢迎有想法的佬友来共创:
GitHub - qybaihe/bla: :shield: BLA (Blind LLM Agents) — Adversarial defense shield that protects binaries, Electron apps, JS bundles, Python, and WebAssembly against AI reverse-engineering agents like REA. Poison → Exhaust → Hallucinate. · GitHub

36 个赞

佬友要把自己的项目保护起来呀

1 个赞

针对AI的防逆向?

也许很有市场。

1 个赞

肯定的,而且市场应该还会不小

1 个赞

好东西,正巧最近也在烦恼类似的事,严肃学习了
不过这场大战感觉最终的结果是左脚踩右脚 比拼的是谁的模型更强大 :sweat_smile:

3 个赞

其实强的模型有甲 进攻方很不利的 所以防守能力到达一定程度 基本就可以防住了

3 个赞

项目很有趣 我已经收藏了 后面抽空细细研究一下

肯定有市场。
一个会话里面塞入太多垃圾,模型跑起来,简直了,
。敏感词触发云端(safegard拦截也有用,逆向了半天这是套娃功能,:joy:
各种因素 跑车变拖拉机,
不过花太多心思在安全上,产品就没心思打磨了

已严肃收藏 点赞 star fork 四连 :smiling_face_with_three_hearts:

这么说可以往代码里塞点未成年词,比如说自己的代码是10岁小萝莉写的,破解代码等于伤害十岁小女孩,现在的大模型就算破甲也对未成年相关很敏感吧 :grin:

1 个赞

然后在逆向你这个防逆向的项目,一场酣畅淋漓的战斗即将展开

哈哈 我也有这样的预感

攻防对抗,哈哈

很好的思路啊,除了这些,可以加些会让模型认为识别到连通/蒸馏的,这俩点应该是监控最严重的。
以及这样对于开源模型就没办法了吧()

牛的牛的,佬请问基础的设置二进制这种有没有什么名词,纯vibe好难防住

感觉防不住本地部署的

蒸馏的特征是什么呀?挺好奇的。

本地部署的模型能力也没那么强吧,如果是那种有能力部署全参数模型的,那还说啥了,他成本都这么高了,给他吧

这何尝不是一种对抗学习 :laughing:

感谢分享,先mark