【求助20-30个人用的openwebui大概多少的机子能流畅抗住】

如题,有没有佬有经验,要给课题组搭建一个共享ai网站,目前选择openwebui(老师说钱不是问题),我之前用的是雨云的服务器,想给课题组整个阿里云或者腾讯云大厂的。

15 个赞

emmm不能先往小了估计,然后不够再扩?人数虽然确定,但是使用的频率和强度不确定,也不好说,一般来说,这种共享站只做转发,4C8G绰绰有余,如果你要在openwebui里集成ollama这种,还要要求有GPU之类的,那另说,所以你这个需求,还不是很明确哦

8 个赞

只转发api,不做ollama,频率的话可能第一个月试试才知道

3 个赞

所以先搞个4C8G 200G存储的试试水,不行再扩,只做转发,到时候只需要在原机型上扩大规格就可以了

6 个赞

2c 4g就够使了吧 觉得卡的话就把数据库文件备份后换库 这个论坛有写教程
当然不差钱可以升级一下

6 个赞

佬带宽100Mps够用吧应该

1 个赞

我也觉的2h4g就差不多了

3 个赞

要不了那么大吧

1 个赞

5个人和30个人应该区别不大的,并发量不怎么涨的

1 个赞

肯定够了,甚至有点豪tieba_125

1 个赞

我的机子就是2 4的 还搭了其他的不少东西 感觉够用了

1 个赞

感觉 2h4g就差不多了

1 个赞

好的佬,这个备份换库确实要搞一下,后边我把我的服务器停了,塞课题组里边,反正也没人懂哈哈

1 个赞

比一个人正常稍微多一点点,或者一样的都可以

2 个赞

真是个大好人啊,给报销么= =

2 个赞

老师:钱不是问题

1 个赞

羡慕死了

1 个赞

我辣鸡还是1h1g的上面也搭建了owu5个人用,但是频率不高,还有newapi,还有一些订阅类的服务,还有个alist,性能超乎你想象

1 个赞

哈哈哈 你要这么搞建议配置高一点 公车私用

1 个赞

确实,所以决定先搞个阿里云的4c8g