请教下大佬们,关于大模型如何自己训练

就是基于平台能力,自己投喂,然后调用Api进行应用

大模型训练的语料和硬件怎么解决?其实如果想玩可以先去抱抱脸搞个模型进行微调,一般开源模型微调、推理什么的都弄好了。

1 Like

微调也没有免费的GPU用,colab免费显存不够

1 Like

aws p5.48xlarge

1 Like

老价钱了

1 Like

好的,先去搞个模型玩玩先,能有平台提供训练最好

算力可以用 autodl ?

1 Like

可以找M2及以上的大内存Mac或Mac studio,内存当显存用,Pytorch改 ‘cuda’ 为 ‘mps’ ,算是现阶段个人向硬件最低的玩法了

1 Like


阿里云免费试用 - 阿里云 阿里云有个500块额度的 A10/V100/G6

1 Like

再水水 :grinning: :smiley: :smile:

1 Like

自己微调玩 成本还好 不高

1 Like