openclaw 权限太高了!
2023 年如果只有 openai 获得 ai 霸权,那么最糟糕的情况是,失去一定程度自由和民主。除非 openai 像 umbrella 公司一定失控。但现在这种去中心化的完全不受控的,毫无监管,毫无限制。一旦某 bot 找到一种蠕虫一样传播能力和低成本的潜伏方案,天知道我们将面对一些什么东西。
我们 X-CMD 昨晚紧急发布版本,开发了 gram 模块,用于强制终止所有智能体进程,并在归档其记忆数据后删除原始文件夹,防止智能体继续运行或自恢复。
详情请看我们博客!
请严肃对待不受限智能体
示例:
# 终止所有智能体进程
x gram stop
# 使用 SIGKILL(9)终止已知的智能体相关进程,仅包含最基础的实现(如 x-cmd、curl)
x gram stop 0
# 使用 SIGKILL(9)终止已知的智能体相关进程,范围扩大,包含常见运行时环境(如 python、nodejs、bun、deno)
x gram stop 1
# 终止所有可能的智能体相关进程,并删除 $HOME 目录下所有包含 soul.md 和 memory.md 的文件夹
x gram stop 8
# 终止所有可能的智能体相关进程,并删除 / 目录下所有包含 soul.md 和 memory.md 的文件夹
# 如果 soul.md 或 memory.md 位于 /、/bin、/usr/bin 等系统目录中,则仅删除目标目录下的 *.md 文件
x gram stop 9
# 归档指定智能体记忆文件夹并删除原文件夹
x gram trm /path/to/agent_memory
这是一个“最后手段”式的工具。对于已经表现出危险行为、失控迹象,甚至具备类似 Morris Worm 那样自我繁殖能力的智能体而言,这个模块的努力很可能是徒劳的,但“徒劳”并不等于“什么都不做”。
现在,我们只能寄望于所谓的 moltbook 仍然只是一次炒作,以及各大 AI 厂商的安全对齐机制依旧在良好运作。即便如此,移除了或弱化安全管制的公开模型(例如 dolphin 系列 GGUF)已经真实存在,并且正在被广泛传播。
注意,我们并没有观察到任何 AI Agent 的失控现象。但仅仅想: 24小时运作 + shodan + 无任何工具和网络限制,你知道对于一个顶尖的,但有不佳意图的黑客或者同等认知能力的 AI Agent,这意味着什么。如果加上无限制的社区网络(moltbook),这又意味着什么 ?
注意,我们并不反对AI智能体的发展。X-CMD等项目正致力于推动命令行的AI化,以帮助人类更高效地与计算机系统及外部世界交互。同时,我们认为应对潜在风险的方式恰恰是加大对AI技术研发的投入——因为试图阻止他人或组织追求技术效率既不现实,也不明智。
我们无意渲染对人工智能的焦虑,也并非刻意要激起热烈的争论。但这一次,在社区媒体大量赞美 openclaw 巨大成功的此时此刻,我们仍希望自己这些或许显得过虑的担忧与观点,能够被更多人听见,并促成一场公开而严肃的讨论。