另外好奇下…什么场景是需要放进 8w token 的? 以及你不嫌贵么?
2 Likes
之前搞的GCP150,Claude提供的上下文挺长的,所以写一些程序的时候我就直接一次都投喂给它了,来回优化几次,报错几次,都复制过去,每次都在一个窗口里面,上下文就长起来了。(不过现在GCP没得用,很少超50k了)
2 Likes
其实现在主流模型都支持 120k+ 了,能力上都具备长上下文了,但是就是还用不太起
1 Like
有没有考虑给一个选项禁用这个功能,因为我们自己用不需要看token啊,反而卡爆了影响使用啊,浏览器内存也爆炸
1 Like
可以的,后续给个flag吧
1 Like
佬,数据库部署能不能再简单一点,小白看的头晕
现在已经很简单了哎,docker compose 一行指令拉起,还能再怎么简单吗?
1 Like
佬, 希望支持 https://cohere.com/ 啊, command r + 也算很强的模型了, 而且出的也挺早, 不知道为啥一直没人提, 我看提了 issue 好像也没反应
请问完全按照 数据库版本文档 的教程来搭建,最低需要什么配置,azure100的1g1c够用吗?
其实本来想接的,但是有人提了个 PR 但没做完,我就没管了。这个月应该会考虑把这个加上去
9 Likes
你可以试试看?应该够的
4 Likes
感谢回复明天试试
好的好的, 期待
1 Like
更新了一版,来试试新的卡顿有没有缓解?
还是希望能优化下,文档模式按钮丢失的问题
5 Likes
嗯,这个近期会修
5 Likes
辛苦大佬。
5 Likes
大佬 模型这里是怎么判断支不支持的function call 有的模型是支持的 但是lobe提示不支持,在哪里设置
现在我部署在 vercel 数据库版,卡顿还是明显
请问部署 vps docker 会不会好一些呢
大佬出个教程