26 Likes
今天你开贴强度好高啊
3 Likes
没看见感
3 Likes
你回帖强度也不低
1 Like
应该像佬友学习,多开帖子
1 Like
这种能本地部署吗
2 Likes
能,很小,可以部署一个乐呵乐呵
2 Likes
就是想本地试一下。
1 Like
看下效果啥的。
b越多代表训练的越多吗
“b”越大,模型越复杂,性能可能更强,但同时也需要更多的计算资源和数据支持。
1 Like
不是哈哈
1 Like
电脑我直接部署了14b的,旧手机算力不太行,就搞了一个1.5b玩玩。
1 Like
这么强?
2 Likes
主要是响应速度好快,思维链也挺好的
1 Like
手机都行,效果还这么好!一个字:强!
1 Like
楼主你是手机部署的啊?这种蒸馏的模型能部署在本地用于coding提示吗?
1 Like
普通的这么小参数的模型感觉真没什么意思,不过个人感觉这个还挺值得玩玩的
1 Like
效果不错的话我用cpu也去跑一个玩玩
1 Like
可以,但是不推荐。我六年前的旧手机性能不太好,你们芯片好一点的,那个骁龙8gen2以上的可以玩玩7b的。
1 Like
手机就图个乐子,一般是用电脑
1 Like