【重磅】Siliconflow 已支持标准格式的 FIM,已向 override 提交 pr。

前两天还说近期会跟进,没想到来的这么快。

大家可以自行查看 Override PR 状态: feat: 增加 siliconflow fim 的支持 by zhuiyue132 · Pull Request #63 · linux-do/override · GitHub

等始皇审批后,大家可以自行部署尝鲜。

截至目前,Siliconflow 共有三个模型支持 FIM。分别是 Qwen/Qwen2.5-Coder-7B-Instructdeepseek-ai/DeepSeek-Coder-V2-Instructdeepseek-ai/DeepSeek-V2.5。其中 Qwen/Qwen2.5-Coder-7B-Instruct 是免费模型,另外两个是收费模型。

如果你有很多 Siliconflow API Key, 可以以英文逗号分隔填入codex_api_key字段, 这样可以很好的避免Siliconflow官方的 TPM RateLimit 对你编码速度影响(尤其使用收费模型时,用户级别较低,TPM 最低只有 10k)

余额为 0 的 apikey,也可以拿来用,不过只能用 Qwen/Qwen2.5-Coder-7B-Instruct 补全

这太人性化了有没有

AFF 硅基流动统一登录 还不赶紧点点 aff

上文:https://linux.do/t/topic/228045/4

5 个赞

得到官方人员的点赞

1 个赞

这个好啊,就等屎黄合并提交了

1 个赞

余额为 0 的 apikey,也可以拿来用,不过只能用 Qwen/Qwen2.5-Coder-7B-Instruct 补全

1 个赞

太强啦,等neo合并pr

qwen的补全质量好么

没有深度使用,但比另外两个模型差点意思

这波真是太强啦

做到真正白嫖,而且输出速度一流:smile:

走new-api的硅基支持吗?

应该不行,补全接口和对话不是同一个。

哥哥们,点点 aff,求求了:pleading_face:

更新这么快呀

确实更新的很快,甚至他的官方文档都没更新

感谢佬友分享

Override 的 PR 已合并。
各位可以去试试了。

已经用上了,好用。不过override在idea里面,怎么只能补全不能chat?

chat 需要单独配