为啥厂商不让API每次多输出一点呢
岂不是可以多赚钱
我感觉GPT的API输出就比国产API输出多很多
1 个赞
开会员输出少点. 省钱.
推理是占用显存和cuda资源的，同时长上下文记忆也是个问题
我怀疑你住到论坛中了
啊？这是什么逻辑
2 个赞
输出多TOKEN多 花销岂不是就多了
那网约车的规划路线为什么不绕路呢
输出的长度一般由模型语料或者系统提示决定，对于收入占大头的企业用户（或者说稍微专业一点的用户），自己就有一套成本核算的方法，来节约tokens消耗，强行通过系统提示，反而降低模型在用户端的指令依从性，得不偿失
2 个赞
我看GPT CLAUDE普遍输出多点
国产基本就很少
龙龙不用上班吗? 为什么每个贴都能有你的身影
少输出多问才赚钱
对体验而言，回复质量更重要；
输出价格贵但未必足够覆盖成本；
GPT 的新模型被骂过变懒，所以才强化了乃至有点啰嗦。