关于模型大小与所需算力的对应

有没有佬知道不同级别大小的模型 跑起 训练 和 推理 所需的 算力 对应多少

1 Like

蹲一个,本地都不敢尝试

试试这个 Model Memory Utility - a Hugging Face Space by hf-accelerate

要挂梯呀,我的机场都好久没续费了 :upside_down_face: