求助:用大还是用小?

我的机器性能不行
那我装载模型的时候
我是用 4B 8精度还是用7b 2精度呢?

用小

机器性能不行的话要不别加载大模型了 不然效果肯定达不到你预期 可玩性很低

1 个赞

那就是用7b小精度的模型了?

From #develop:ai to #share