今天买了台新PC，本地部署了Open WebUI+Ollama

[weakchen (风清扬)]

用本地Docker，部署了OpenWebUI

同时跑了几个Ollama大模型

这样就可以在本地调教一些较敏感的以及担心泄密的内容。

[wwow (樱悦)]

进来学知识

[bopomofo]

进来看看电脑配置

[yqyan (Grogu)]

想看看配置，结果没看到

[oUjg3 (用过的都说好)]

也搞过，可能我的电脑不行，本地部署的大模型就是智障

[yanyuhua (烟雨花)]

模型回复速率怎么样

[handsome (大帅哥)]

用自己电脑跑啊。。

[mozhi0012 (天下第一)]

啥配置？

[fua]

啥配置参考一下

[6512345 (65)]

怎么还书签上了

[Kin]

我也想买一台，过年玩

[jjqtony (Tony)]

最大也就9b ，普通电脑就可以

[w198750 (薛定谔的Tomcat)]

哈哈哈c

[slashkkk (空气动力学)]

佬，请教个问题，本地跑数据分析和报告撰写，哪个模型得劲？

[weakchen (风清扬)]

@slashkkk

本地跑数据分析和报告撰写

Llama 3 70B 我觉得最好！

[slashkkk (空气动力学)]

谢谢。
70b。。。。。。欧。。。。。。。。no

[yqyan (Grogu)]

@weakchen

Llama 3 70B

这个是指 Llama 3.3 70B？能具体讲讲，和类似规模其它模型比，有什么优势吗？

[pggcharles]

进来看看配置

[weakchen (风清扬)]

我用过的本地最大模型就Llama 3 70B，下面是模型的对比数据

[weakchen (风清扬)]

这是录屏下来的，速度还不错