为什么luna的速度会和sol一样?

luna肯定是个小模型,但是为什么速度上没有优势 之前5.4mini刚出的时候 速度是非常快的 但是luna打出生速度就和sol一样
是为了大并发优化么 就是默认都是batch模式? :joy:

2 个赞

是订阅反代吗?有没有可能是你的中转sol里面掺了luna :bili_040:

1 个赞

都在用luna呢,速度也许就这样下来了。

luna 必须用 max,智商才能看,但是太慢了。

1 个赞

好像是首发就不快 这次的luna的策略和以往不一样 应该是

1 个赞

快不快要看openai给的算力
小模型如果给的算力不足, 一样会比较慢, 应该是openai特意的

1 个赞