请求帮助,部署、微调本地大模型

我们有一个华为昇腾910的服务器,4卡的npu,想要部署一个本地语言大模型, (gitee.com)](https://gitee.com/ascend) 上 有 昇腾 的 案例,不过都是8卡的,论坛上有没有人, 能帮我 调成在 我们4卡的机子上运行的啊

以上这些模型, liama2 3 或者 chatglm3 能帮我 调成 4卡 的 都行

1 Like

帮顶。

服务器多少钱买的?

30多个

帮顶

找华子工程师啊,那么高的价格,多出的不就行服务费嘛

公费的话,找华为调试,毕竟华为的硬件
自费的话,自费给公司调?不存在的

昇腾我可就熟了,如果正常来讲你买华子的东西是可以找他们工程师的。如果找不到,就来这个网站把你的问题描述出来,然后联系版主让他解决
https://www.hiascend.com/forum/

From #develop:ai to #share