【求助】老板让我搭建一个本地AI大模型

开发调优
21

码住，感觉这个比较有实际意义

22

俺也码住、佬友还有这方面的教程嘛

这个就可以用 RAG。qwen 上这个文档把 RAG 原理写的蛮透：使用 Qwen-Agent 将上下文记忆扩展到百万量级 | Qwen

2 个赞
23

搞不了，你说电脑配置不行

24

ollama+qwen+dify是不是就可以了

25

催更催更 :star_struck:

2 个赞
26

感觉挺实用的 插眼标记一下

27

留言占座，看看佬友们的集思广益

28

谢谢，这周还会继续更新

29

先放个板凳，先占个位置。有需再来。

30

写的真好，归纳总结的能力很强 :+1:

31

mark一下

32

谢谢佬友的支持，我会继续分享我的个人经验

33

我最近也有这样的想法， 就专注于自己项目的代码生成，可惜没有思路

34

我也有这个需求，围观一下

35

蹲一下，现在还没看到新手友好的解决方案

36

已加入书签

37

Xinference+dify

38

目前用Ollama+openwebUI非常轻松的搭建了一个本地的QWEN2.5模型，但是还没搞清楚怎么给它灌知识。

39

这个算是基础了，然后又要折腾知识库了，不过我感觉你这样的需求，用dify好像更好啊

1 个赞
40

vllm 起 deepseek 2.5

1 个赞