一天烧9200万token

0FDA2E680E032FD6A3E833D457E956AF
不看不知道,一看吓一跳 :distorted_face:都不知道怎么烧的,感觉自己一天也没干啥啊 :distorted_face:

16 个赞

1m上下文模型 素材一多,烧的到老快了

4 个赞


感觉我都算少的。。真不够用,这还不包括没统计到的agent

3 个赞

token福利期已经结束了吧,没有token的日子又得手搓代码了

2 个赞

agent烧token大户,主要是每次对话就把之前的缓存来回倒腾叠加了。

2 个赞

好家伙一天烧我一周的量,是什么世纪大工程

2 个赞

6还得是你,烧的这么猛, :distorted_face:我烧的不是公益,是codex :sob:

一周的量?不至于吧?你是怎么用的 :distorted_face:

1 个赞

这得多少¥一天啊,羡慕佬的财力 :heart_eyes:

2 个赞

token消耗都以千万计算了阿 上下文叠加了把

1 个赞

1m 上下文真的很容易把 token 烧出幻觉,尤其是把一堆文件、日志、历史对话一起塞进去的时候。

我现在一般会先让它列索引/摘要,再针对具体文件开工,不太敢让它“把整个项目都读一遍再说”。不然看起来没干啥,账单像开了水龙头。

1 个赞

你可真牛啊,写小说了吧,或者分发了?

1 个赞

我和你差不多,我主要是用codex :joy:

3 个赞

你这是写小说里吧,大佬,哪可能用那么多

1 个赞

不上亿都不好意思截图

2 个赞

没,我正常开发用的,这个月一直在加班赶工期,基本上天天都是11点才休息

1 个赞

就是正常用量啊。我有时候一天正常开发都能1-2亿。

1 个赞

没有哦,纯自用,然后去看了一下,发现用了这么多token :distorted_face:


你说的这个吗 :distorted_face:

1 个赞

尽量不要开1M,且不说贵,第二是大部分模型性能最强的区段都是200-250K这段,可以压缩的,还能省不少token成本

2 个赞