那是v4时代的事了,v4.1已经有佬友证实没有输出限制了
老套餐要一直购买才能维持?
中断后再买,就按新套餐来算了?
目前最大输出token和官方一样是384000
我也是,10刀的cline就够我用了
这么说来,能钉上游的cline 10刀好像是最好的选择
这个挂梯子和不挂响应速度区别大吗?
应该是的 我是一直在续费着 还没中断
官方也q8量化?那别的不得q4吗?
首字响应应该会有 100ms 左右的差距吧 我是挂梯子访问的 刚测试了下直连 ollama 大概平均 250ms
1 个赞
多十美元,能得到速度都觉得比较值了,只要 token 够用。多谢。
羡慕,不过给我 160 亿估计也很难蹬完,够用就好。
确实,质量和速度也是我的第一考虑因素。如果之后workbuddy反代不了我也会优先考虑Ollama
我想请问一下,那现在是不是和官方是一样的呢?
单从模型精度上看Ollama跟官方是一致的,速度肯定是大于或等于官方的。但我记得Ollama好像限制3并发来着?不过对于我来说肯定够了
更加比较关心智力方面,他是不是一样?
不好意思,我没真正试过呢。只是从数据上看大家都是fp8,所以质量是一样的。论坛也有其他佬友说感觉质量跟官方是一致的,你可以搜搜
当然用官方的好处之一可能就是早点吃上灰测的新模型?![]()
直连不影响,没挂梯子dsf有350tps的飞速,确实爽
必须一直保持,不能做任何更改,月订改年订,pro升max,全都会转移到new plan
1 个赞
怎么?是zcode的臭鸡蛋量不够么 ![]()
因为代码被偷我也无所谓,我懒得折腾pi和dsh,那就只能上贼code了![]()