类jev开源模型thisthat本地部署挺快

显卡是5060的 8G显存,运行起来占6G显存,使用pytorch+cuda128跑贪吃蛇游戏。每秒决策8.9次.
模型地址flock-io/this-that-model-1.2 · Hugging Face

还有其他的决策场景吗,目前还没想到实际开发中该如何应用

我看推上有给邮件分类的,有固定选项的应该都可以拿它来判断。

语义判断,比如区分用户和智能体的对话是偏向日常还是工程,以调用不同的工作流,透露不同的权限和工具。