想在本地部署个代码审查的工具 形如代码中 有的包没有调用 有的函数没有调用 或者 函数逻辑等有问题的情况
有啥能结合大模型 部署在本地的工具不
这大概就是想屁吃。。。grok 开源了 体积300G A100*8 会OOM
ali的通义灵码能开启本地模型服务，不知道是怎么个事
没必要上grok呀 拿个72b的不就好了 A800*8 每张80G 搓搓有余了
编程方向的话，deepseek chat 67b？自己微调应该还行，我几个月前还在reddit上看到有人拿来向金融方向微调的，不过 A800*8成本也太高了，感觉性价比不如整个mac studio192g跑了，但mac局限性又挺大 
公司有设备的 这倒是没啥 实在不行接入 c的 copilot2gpt
From #develop:qa to 开发调优
1 Like