在模型设置里勾选了Usage
但它底下没有token使用详情的按钮啊
关闭流式响应的话,倒是会显示使用情况
我知道Chat Metrics函数也有类似的功能,但统计不太准。想问下大伙都是怎么解决这个问题的?是new-api的输出不标准,还是open webui有bug?
在模型设置里勾选了Usage
mark一下,我也很好奇这个问题,我看见有的佬模型名字下面有token,时间,速度等信息,我的就没有
这个是函数,需要自己搞
那个是Chat Metrics函数,但统计不是很准
不懂不懂,没用过这个
不懂不懂,没用过这个
@yangtb2024 怎么用?
不懂不懂,没用过这个
同问!!一直不知道干嘛用的