英国 AI 安全研究所 (AISI) 发布大模型安全评测工具 ControlArena

大模型安全和评测这块,之前出的 Inspect 框架的英国 AI 安全研究所 (AISI) 。最近他们又开源了新工具 ControlArena。

这玩意主要用来在受控的沙盒环境里,自动化评估大模型 Agent 的自主性边界和潜在危险能力。

官网:

项目:

6 个赞

4 个赞

但这是英国不是欧盟,不通过 :shaking_face:

1 个赞

英国上次套壳GLM风波未了

2 个赞

删库测试吗