serv00部署SillyTavern教程

SillyTavern(傻酒馆)是一个开源的角色扮演聊天前端界面。其主要特点如下:

  • 角色扮演:用户可以创建和自定义角色,并通过文本或语音与这些角色互动。
  • 多AI模型支持:支持多种AI后端。
  • 丰富的功能:文本系统语音生成、世界信息(Lorebooks)、可定制的界面、自动翻译等功能。
  • 插件扩展:支持多种内置和第三方扩展组件。

项目地址:

1. 准备工作

直接参考这篇帖子,写的很详细:
免费搭建一个new-api 适合小白详细教程(含千刀以上免费渠道来源) - 常规话题 / 人工智能 - LINUX DO
需要做的:Add Port,Add new website,Additional services-Enabled

如果是第一次设置,删除自带域名的话最好将文件夹一起删除,不然可能出现部署完成后打开原有的演示页的情况。

进行SSH连接并安装PM2

bash <(curl -s https://raw.githubusercontent.com/k0baya/alist_repl/main/serv00/install-pm2.sh)

安装成功后重新连接。

2. 安装酒馆

将酒馆克隆到public_html文件夹下

cd /usr/home/用户名/domains/域名/public_html  # 进入网站根目录
git clone https://github.com/SillyTavern/SillyTavern.git .  # 克隆SillyTavern仓库到当前目录
npm install  # 安装项目依赖

有时候SSH连接会特别卡,可能导致安装失败,可以等速度较稳定的时候安装。

3. 修改酒馆配置

编辑 config.yaml 文件,更改以下内容

  listen: true   # 允许外网访问。默认false,改为true
  port: 你的端口  # 设置SillyTavern运行的端口号,改成你前面增加的Port
  whitelistMode: false   # 关闭白名单验证。默认true,改为false
  basicAuthMode: true   # 启用账号密码验证。默认false,改为true
  username: 你的账号  # 设置访问用的账号
  password: 你的密码  # 设置访问用的密码

注意:账号和密码最好都用英文设置

4. 运行酒馆

chmod +x start.sh  # 给启动脚本添加执行权限
pm2 start ./start.sh --name sillytavern  # 使用PM2启动SillyTavern,并命名为sillytavern
pm2 save  # 保存PM2的进程列表,确保服务器重启后自动启动

等一会启动好后,即可通过域名访问SillyTavern。

5. 保活

参考:Serv00搭建各种服务

在 Panel 中找到 Cron jobs 选项卡,使用 Add cron job 功能添加任务,Specify time 选择 After reboot,即为重启后运行。Form type 选择 Advanced,Command 写:

/home/你的用户名/.npm-global/bin/pm2 resurrect >/dev/null 2>&1 && /home/你的用户名/.npm-global/bin/pm2 restart all >/dev/null 2>&1

更稳定的保护可以参考上面链接的 检测启动情况,佬友们有好用的方法也可以推荐一下。

常见问题

关于常用指令

pm2 list                # 或 pm2 ls,查看所有由 pm2 管理的进程列表
pm2 logs sillytavern    # 查看 SillyTavern 的日志文件,方便排查问题
pm2 restart sillytavern # 重启 SillyTavern 服务
pm2 stop sillytavern    # 停止 SillyTavern 服务
pm2 start sillytavern   # 启动 SillyTavern 服务(如果已停止)

关于内存占用:
我测试时,关闭SSH后启动酒馆,内存占用先500多M然后降到400多M,如果有内存占用过多的情况,也可以自己手动结束node进程然后等node重启
正常使用约占用300多M内存,之前占用过高貌似是开了文件管理器的原因。

ps aux | grep node  # 查找所有包含 'node' 的进程
kill -9 进程ID      # 强制终止指定ID的进程

关于使用教程:
酒馆使用-飞书云文档

关于Error 502
检查config.yaml文件,可能是在允许外网访问的情况下,没开账号密码验证。

注意事项

如果通过此前端玩可能违规的内容,请注意不要使用公益站api,这会导致号池里的账号被封号,而且也会有XP大曝光的风险。
滥用公益站API可耻,自己动手,丰衣足食:
1.Cohere,官网申请,免费,无限制。
2.Gemini,官网申请,免费用户有额度限制;可通过试用金使用。
3.GCP150的Claude,可在站内搜索,有很详细的教程。
4.国外网站,如perplexityyou等。
5.找专门的中转商购买。

24 个赞

准备工作做完,域名不是会到NEWAPI吗

估计论坛一波公益api又要被折腾了

原来是这样 多谢指点

搜了下还真有人拿公益站的api玩 :flushed:,我加个注意事项

有人把猫佬账号都完没了 :joy:

sever00這麽厲害嗎,我日本人甲骨文AMD跑起來都反應慢,這玩意不得卡死

就害怕serv00吃不消


一个newapi就这样了,塞不了酒馆了,还是再注册一个好了

网页启动会慢一点,启动完成后,正常对话基本没有卡顿的情况,sillytavern本身对性能的要求应该挺低的

酒馆+node基本就快要将内存占满了,有时候还会溢出一点

前排

感谢分享教程

感谢分享

不是对话卡,是用JAVA的功能,知道吧~就是前端网页卡。本地windows部署非常丝滑~

是的,所以还是用huggingface搭酒馆好一点

1 个赞

huggingface我也照着论坛里的教程部署了一个,就是目前版本用Claude api的话不显示3.5模型,佬知道怎么更新版本吗 :heart:

抱抱脸部署的网页一卡一卡的数据还会丢,不建议

1 个赞

感谢分享.

1 个赞

这能跑得动吗