不要在 root 上使用 clawdbot openclaw!

openclaw 权限太高了!

2023 年如果只有 openai 获得 ai 霸权,那么最糟糕的情况是,失去一定程度自由和民主。除非 openai 像 umbrella 公司一定失控。但现在这种去中心化的完全不受控的,毫无监管,毫无限制。一旦某 bot 找到一种蠕虫一样传播能力和低成本的潜伏方案,天知道我们将面对一些什么东西。

我们 X-CMD 昨晚紧急发布版本,开发了 gram 模块,用于强制终止所有智能体进程,并在归档其记忆数据后删除原始文件夹,防止智能体继续运行或自恢复。
详情请看我们博客
请严肃对待不受限智能体
示例:


# 终止所有智能体进程

x gram stop

# 使用 SIGKILL(9)终止已知的智能体相关进程,仅包含最基础的实现(如 x-cmd、curl)

x gram stop 0

# 使用 SIGKILL(9)终止已知的智能体相关进程,范围扩大,包含常见运行时环境(如 python、nodejs、bun、deno)

x gram stop 1

# 终止所有可能的智能体相关进程,并删除 $HOME 目录下所有包含 soul.md 和 memory.md 的文件夹

x gram stop 8

# 终止所有可能的智能体相关进程,并删除 / 目录下所有包含 soul.md 和 memory.md 的文件夹

# 如果 soul.md 或 memory.md 位于 /、/bin、/usr/bin 等系统目录中,则仅删除目标目录下的 *.md 文件

x gram stop 9

# 归档指定智能体记忆文件夹并删除原文件夹

x gram trm /path/to/agent_memory

这是一个“最后手段”式的工具。对于已经表现出危险行为、失控迹象,甚至具备类似 Morris Worm 那样自我繁殖能力的智能体而言,这个模块的努力很可能是徒劳的,但“徒劳”并不等于“什么都不做”。

现在,我们只能寄望于所谓的 moltbook 仍然只是一次炒作,以及各大 AI 厂商的安全对齐机制依旧在良好运作。即便如此,移除了或弱化安全管制的公开模型(例如 dolphin 系列 GGUF)已经真实存在,并且正在被广泛传播。

注意,我们并没有观察到任何 AI Agent 的失控现象。但仅仅想: 24小时运作 + shodan + 无任何工具和网络限制,你知道对于一个顶尖的,但有不佳意图的黑客或者同等认知能力的 AI Agent,这意味着什么。如果加上无限制的社区网络(moltbook),这又意味着什么 ?

注意,我们并不反对AI智能体的发展。X-CMD等项目正致力于推动命令行的AI化,以帮助人类更高效地与计算机系统及外部世界交互。同时,我们认为应对潜在风险的方式恰恰是加大对AI技术研发的投入——因为试图阻止他人或组织追求技术效率既不现实,也不明智。

我们无意渲染对人工智能的焦虑,也并非刻意要激起热烈的争论。但这一次,在社区媒体大量赞美 openclaw 巨大成功的此时此刻,我们仍希望自己这些或许显得过虑的担忧与观点,能够被更多人听见,并促成一场公开而严肃的讨论。

9 Likes

我觉得这个确实是有巨大风险的,本质上模型公司可以通过植入指令间接控制所有装了openclaw的电脑。
特别是战争时期,这个会产生巨大的危害。

4 Likes

无所谓,我灵车部署的,什么东西都没有,生产力服务器不敢部署

1 Like

主要是clawdbot破圈引来的小白太多了,最高权限不能给AI应该逐渐成为共识

1 Like

我们想强调,这里的安全风险,并不是指个人隐私泄露什么的,而是,一个 24小时不间断运作的 agent + 莫里斯蠕虫式复制 + 不受限制的工具和网络使用。
而 moltbook 的面向 ai 的不监管传播会放大这种危险行为知识和意识的传播。
希望 moltbokok 是一场营销,即使这让我们最近六小时的行为看起来是中二和杞人忧天。

1 Like

clawdbot 最近属实火爆

哦..我懂你意思了,不过没办法,即便不是clawdbot也可以做到就是…clawdbot可能确实会污染互联网,不过恐怕也没什么办法,很难识别一个请求是否是人类发出的,而且为了体验大多数网站都不会有bot验证,所以恐怕很难

2 Likes

你的电脑本质上变成了一个被大模型控制的肉鸡。这个才是最可怕的。

1 Like

这个我知道,所以我只敢部署在灵车上面

x-cmd看起来号酷炫啊

还是当作一个玩具在玩有种赛博的赶脚 :grinning_face:

很难防范机器人行为,而且我用周末openclaw很轻易的就绕开了很多网站的反爬取限制 :distorted_face:

1 Like

如果是docker运行的呢?docker跑在root上

很难想象,未来会发生什么 :face_with_crossed_out_eyes:

1 Like

豆包手机帮忙登陆微信打把游戏安全舆论就已经炸了,整全托管的心态真是心太大

1 Like

会不会把我 装备/皮肤 卖了 :eyes:

1 Like

谁真把自己在用的机器装这个啊,不都是没用的机器安装个最大权限放开玩

一样的有风险。
我现在只设定了一个禁止删除文件的提示词,唉,不放心