如题,有没有佬有经验,要给课题组搭建一个共享ai网站,目前选择openwebui(老师说钱不是问题),我之前用的是雨云的服务器,想给课题组整个阿里云或者腾讯云大厂的。
15 个赞
emmm不能先往小了估计,然后不够再扩?人数虽然确定,但是使用的频率和强度不确定,也不好说,一般来说,这种共享站只做转发,4C8G绰绰有余,如果你要在openwebui里集成ollama这种,还要要求有GPU之类的,那另说,所以你这个需求,还不是很明确哦
8 个赞
只转发api,不做ollama,频率的话可能第一个月试试才知道
3 个赞
所以先搞个4C8G 200G存储的试试水,不行再扩,只做转发,到时候只需要在原机型上扩大规格就可以了
6 个赞
2c 4g就够使了吧 觉得卡的话就把数据库文件备份后换库 这个论坛有写教程
当然不差钱可以升级一下
6 个赞
佬带宽100Mps够用吧应该
1 个赞
我也觉的2h4g就差不多了
3 个赞
要不了那么大吧
1 个赞
5个人和30个人应该区别不大的,并发量不怎么涨的
1 个赞
肯定够了,甚至有点豪
1 个赞
我的机子就是2 4的 还搭了其他的不少东西 感觉够用了
1 个赞
感觉 2h4g就差不多了
1 个赞
好的佬,这个备份换库确实要搞一下,后边我把我的服务器停了,塞课题组里边,反正也没人懂哈哈
1 个赞
比一个人正常稍微多一点点,或者一样的都可以
2 个赞
真是个大好人啊,给报销么= =
2 个赞
老师:钱不是问题
1 个赞
羡慕死了
1 个赞
我辣鸡还是1h1g的上面也搭建了owu5个人用,但是频率不高,还有newapi,还有一些订阅类的服务,还有个alist,性能超乎你想象
1 个赞
哈哈哈 你要这么搞建议配置高一点 公车私用
1 个赞
确实,所以决定先搞个阿里云的4c8g