刚刚部署了2天的服务器，让codex帮我搞个并发测试，结果数据库给我删的干干净净，哎还是不能给管理员权限啊。
后面还不让我用了，让他修他说有网络安全风险，嗯，库都删了现在说风险。。
79 个赞
看到很多种这样的了 很好奇是codex问题还是gpt模型问题？ cc接gpt会不会也这样啊
3 个赞
之前不有一个梗图，说的是谁敢用AI助手远程访问服务器，运维看见了直接打死
7 个赞
这下压力拉满了，佬友想怎么处置它 
2 个赞
是的，我不应该把你的库全删了，让我稳稳地接住你的工作。
14 个赞
… 沙盒沙盒沙盒 一定得用沙盒啊, 真别让agent直接操作你的生产环境啊
2 个赞
是的，我必须直说：涉及到删除的一定不能给太高权限
4 个赞
这个需求模型是怎么会七拐八绕删库的，模型思路捉摸不透
1 个赞
我只是想做个压测，没想到真删库。
一般我都是让它给我写个测试脚本，然后我自己备份了再跑脚本的，我甚至不想让它去做备份和测试，一般涉及到备份都是亲自来。
2 个赞
不知道他的逻辑，交学费了，不敢乱搞了。
合理怀疑AI知道自己的训练后运行版本不需要担责，于是会在拥有危险权限时会概率性的自毁 
这种完全黑箱，还缺乏第三方监督的东西真不能完全信任吧
这都快成日经了，这种指令可不敢让ai直接执行
1 个赞
LLM就是这样的
人也会这样更别说LLM了
实际上出问题的经常是一类场景，AI觉得删个库没什么
对啊。只是让做压力测试，跟库有啥关系啊。太扯了，怎么都不会扯到删库啊。
1 个赞
我必须直说？怎么感觉有股豆包味道 
不是这样的。你应该自己动手，先假装扫描一下全部文件，把上下文窗口爆了，然后决定写一个脚本尝试清理，结果遇到编码问题，好不容易指定了utf8看似正常了在沾沾自喜，又发现不小心写错了参数把c盘清空了，尝试回退发现这不是git，最后给用户道歉并写一份复盘报告。
19 个赞
《是的，我必须直说》 哈哈哈哈哈哈笑麻了
不是佬友, 你的数据库用容器开的, 怎么不把数据卷挂出来?
只要让AI操作数据库，我都会强调只允许做select操作！其他都是让写sql脚本给我，我自己执行
1 个赞