关于Ollama Cloud中各个模型的量化版本。(跟ds官方一样,maybe?)

那是v4时代的事了,v4.1已经有佬友证实没有输出限制了

老套餐要一直购买才能维持?

中断后再买,就按新套餐来算了?

目前最大输出token和官方一样是384000

我也是,10刀的cline就够我用了

这么说来,能钉上游的cline 10刀好像是最好的选择

这个挂梯子和不挂响应速度区别大吗?

应该是的 我是一直在续费着 还没中断

官方也q8量化?那别的不得q4吗?

首字响应应该会有 100ms 左右的差距吧 我是挂梯子访问的 刚测试了下直连 ollama 大概平均 250ms

1 个赞

多十美元,能得到速度都觉得比较值了,只要 token 够用。多谢。

羡慕,不过给我 160 亿估计也很难蹬完,够用就好。

确实,质量和速度也是我的第一考虑因素。如果之后workbuddy反代不了我也会优先考虑Ollama

我想请问一下,那现在是不是和官方是一样的呢?

单从模型精度上看Ollama跟官方是一致的,速度肯定是大于或等于官方的。但我记得Ollama好像限制3并发来着?不过对于我来说肯定够了

更加比较关心智力方面,他是不是一样?

不好意思,我没真正试过呢。只是从数据上看大家都是fp8,所以质量是一样的。论坛也有其他佬友说感觉质量跟官方是一致的,你可以搜搜

当然用官方的好处之一可能就是早点吃上灰测的新模型?:face_with_peeking_eye:

直连不影响,没挂梯子dsf有350tps的飞速,确实爽

必须一直保持,不能做任何更改,月订改年订,pro升max,全都会转移到new plan

1 个赞

怎么?是zcode的臭鸡蛋量不够么 :sweat_smile:

因为代码被偷我也无所谓,我懒得折腾pi和dsh,那就只能上贼code了:distorted_face: