16G显存以下不要尝试玩美团的视频模型！！！

[youyi1314 (Xanthichi)]

血的教训
先说电脑配置 5080laptop（16G）+64G内存，其他不重要
meituan-longcat/LongCat-Video · Hugging Face
这个东西，看一个公众号说只有13B大小就心血来潮下载了，这是带模型的完全体大小

模型大小

先不若requirems中缺少多少依赖得手动根据报错装，但是他上古版本的pytorch+cuda组合，以及flash_attn这个依赖没有原生win和50系，都从GitHub拉库本地编译，光折腾依赖我就折腾了一下午
然后装模型在沟槽的百兆校园网下我挂了一晚上，反正配好环境开始跑了
这是图生视频720p 超分和蒸馏模型都勾的情况

这是他推荐的prompt 480p都不勾的情况

每次都是等cmd出来进度条，然后0/0 ？it/s，等一阵就
Your device ran into a problem and needs to restart.
放弃了，再跑电脑感觉就要出问题了（
这踏马是13b的模型？
JackCui- 美团悄悄开源视频大模型LongCat-video！
这是那个沟槽的公众号文章
我觉得不是我的问题

[eugeneL (eugene)]

没有量化吧

[youyi1314 (Xanthichi)]

他weibui上有一个类似「用蒸馏模型」的选项，勾了然后炸了。hgface上就那一个模型，webui和readme上也没见有任何相关更换模型的地方

[Allyourneed]

[Allyourneed]

@youyi1314

个类似「用蒸馏模型」的选项，勾了然后炸了。hgface上就那一个模型，webui和readme上也没见有任何相关更换模型的

没搞过，但是感觉应该是手动设置浮点数精度就好

[eugeneL (eugene)]

量化的没啥用浪费时间

[youyi1314 (Xanthichi)]

没看到有相关设置主要是（

[stevessr]

13b 4bit模型本身就要13G，更别提上下文和框架了
一般默认你是fp16

[apparition]

video 模型会比纯 text 模型大
里面还包了 vae
默认 fp32

[stevessr]

NVIDIA驱动有艹ram的功能来着（楼主的ram也要炸开
vae不算参数

[apparition]

翻了一下，看起来连 LoRA 都没用上
等别人的懒人包

[handsome (大帅哥)]

这也太惨了