这一段时间,那些小作坊卖API,卖得快飞起来了,但是他们的显卡少,输出速度慢,给官方服务造成了很大的压力。你们都是实力雄厚,手中拥有大量卡的大厂,是时候你们拿出手中的计算资源倾囊相助了,真奇怪,你们见着这么多钱都不去赚,干啥呢?
佬们闲置的2070 8GB长期待机
跑个r1 7b够吗
差不多吧,你试试看,不行的话会有提示的。
4bit 应该没问题,8b 应该也没问题,14b 大概率不行
Cerebras:原来我不配运行deepseek
1 个赞
免费额度少
1 个赞
可以2api
2API就是怕哪一天突然禁掉了
1 个赞
可以请青面兽出山
1 个赞
671b的呢?
跑不动
这一波真是把各大厂商的底裤都要扒出来了
2 个赞
sambanova应该会上,Meta-Llama-3.1-405B-Instruct都有了
1 个赞
硅基冲呀
2070s,14b,吐字比我手写快一点
3 个赞
这家模型就一直没更新
硅基上之前怕不是要清理一波账号
硅基说年后才能上
2api不行的 现在官方查得严