求配置电脑用于研究大语言模型

开发调优
1

最近大语言模型这么火，想弄台电脑可以安装大语言模型到本地进行研究，请求大家给推荐显卡配置以及电脑配置，要求：

  1. 机器性能和费用达到均衡，总费用不要超过1万。
  2. 显卡主要用于AI计算，偶尔用于游戏。
  3. 倾向于使用大机箱，显卡不要外置。
  4. 已经有朋友推荐用特斯拉的P40显卡，可以考虑。
  5. 希望内存> =32G, 显存>=24g
2

从 一机难求 到 快问快答

1 Like
3

LLM都是上万块A100起步的吧，本地这点算力应该能做的很有限吧

4

只是想研究LLM技术，不需要太大算力，只要能安装成功所有最小配置的模型即可

5

去卡吧图吧讨一份配置单吧，咱这儿估计都是码农，不太懂这个。

6

我建议不要在个人电脑上研究LLM，第一开源的模型仅能用于简单的活动，要落地做项目，还得是商用的模型才能生成的效果比较好的；第二个人电脑上跑langchain的代码，要曝露出去还是还有很多局限的，个人玩玩的话，笔记本也行，没必要花大钱。要研究langchain的代码，论坛有很多免费的apikey可以用来玩。当然如果个人确实不差钱的话，买新电脑也不错，起码4090配上也可以玩stable diffusion更有趣

7

行吧听你劝。我就学学langchain，找找免费的apikey。至于怎么搭建安装LLM，就看看文章学习一下吧

3 Likes
8

From #develop:qa to 开发调优

1 Like