新手小白windows+lobechat+中转API配置claude3.5以及gpt4等模型

写在前面的絮絮叨叨:
想自己用API配置最初的起因是coze“死了”,想找一下gpt4的平替,然后就看到了linux do社区(不得不说这些帖子太优质了)。自己这两天成功注册了claude3.5账号,也用过shared中的gpt4,以及始皇新开发的“发克劳德”,不得不说给我打开了新世界的大门。

不过,体验过claude3.5后,有点回不去gpt4了。而且一直挂梯子全局代理有点不方便,社区内的云端/服务器部署的帖子又有些难度,加上本人之前跟教程尝试过 webui+ollma在本地部署过Llama3,所以也想尝试自己在本地部署一下claude3。

最初的一些想法有点乱,走了很多弯路,比如想买API,最初想买正版的,结果VISA卡这一关难住了。不知道用什么网站可以直接输入API就能用的,结果找到了很多野鸡网站(进一步导致现在买到的中专API也是小网站的,不过能用就是了)。于是准备将这些心得整理一下,供和我一样没什么经验的小白参考。

大概需要金钱成本:35元买到的5刀的API套餐(依据你买的网站实际收费标准,也可以在社区里找找免费提供的)。试错金钱成本(充值OKX网站10刀,结果发现去depay开虚拟VISA要20刀起步)。

大概时间成本:一切顺利的话0.5-1h以内。试错时间成本:好几天,包括apifox一开始看不懂,vercel看不懂,lobe进不去,环境变量配置问题等等。

整个流程一共分为三大步,前置要求(有github账号,且装了git )。

一、下载LobeChat Winodws 本地版

1、打开CMD(Windows键+R,输入cmd)

image

进入cmd后,确定要安装的盘的位置,如果是D盘,就打 D:。

之后下载项目,在命令行中执行下面的命令

git clone https://github.com/lobehub/lobe-chat.git

等待完成后,切换到所在目录

cd lobe-chat

二、安装LobeChat以及配置过程所需的环境变量

在项目根目录下,执行

pnpm install

如果提示未安装 pnpm,那么应该就和我一样 node js,npm都没装过了。

接下来是如何成功运行 pnpm:

(1)安装node js 以及 npm

去到 Node.js — Download Node.js® (nodejs.org)

该网址,跟着步骤一步步走。

如果运行第二行时报错了,可以使用以下代码代替该命令。

fnm install 22

之后再检查一下 node -v 和 npm -v 是否可以使用,当然这时候大概率不能使用,因为环境变量没配置。

这时候需要找到 node js的安装目录,可以采用再次运行

fnm install 22

这行命令,看看系统提示安装在哪里了,进入其下一级目录,installation。

这时候installation这一级的目录才是应该配置环境变量的位置。

按Win键,输入path,进入编辑环境变量

继续选中PATH编辑

image

点击新建

image

在最底下输入installation所在的目录,如

C:\Users\你的用户名\AppData\Roaming\fnm\node-versions\v22.4.1\installation

然后一路确定。之后重新开启一个cmd,测试下 node -v 和 npm -v。

(2)安装pnpm

有了确定的输出后,需要通过npm安装 pnpm,执行以下命令

npm install -g pnpm

此时同样要配置 pnpm 的环境变量,方法同之前一样,但是需要注意的是,pnpm的环境变量实际所在目录为 pnpm.cmd 文件所在的目录下,找不到的话,这里推荐大家可以下载一个 Everything 软件,比系统自带的搜索要方便许多。

等到pnpm配置成功后,执行以下命令校验是否安装成功(重新打开一个cmd)

pnpm -v

(3)安装lobechat

确定没问题后,回到 lobe-chat 所在目录,执行

‘pnpm install’

这时会自动下载所需的依赖包,下载完成后执行

‘pnpm dev’

等待一会儿后,命令行会出现

image

打开浏览器,将http://localhost:3010输入地址栏后,将会进入lobechat。

出现这个页面,那么恭喜你,你马上就要正式进入LobeChat了

三、Claude 3.5 API的配置

(1)API的获取

首先要解决的问题是API如何获得,大家可以在社区中善用搜索功能,会发现一些大佬
给的免费API,也会有一些推荐的中转API网站,网站中一般都有计费标准,可以找一些低价的网站购买。在这里我就不推我买的小网站的API了,感觉不太靠谱,大家有什么靠谱的可以推一下。

(2)LobeChat的配置

一般openai相关的API都没什么问题,这里就讲一下 Claude 3.5 在LobeChat中的配置。

首先要进入设置页面

之后进入语言模型的设置页面,在OpenAI这里填写API,而非Anthropic(甚至需要关闭)。

框 1 输入购买的API

框2 输入你所购买网站所提供的代理网址,一般都是 三选一

  • https://api.代理网站.com/v1
  • https://api.代理网站.com/v1/
  • https://api.代理网站.com/v1/chat/completions

如果是 claude 3.5 的话,请按照我的格式填 。

这时候,模型请不要自己输入 claude-3-5-sonnet-20240620,一定要自己点一下获取模型列表,在里面选。我在这儿吃了很大的坑,虽然模型是claude-3-5-sonnet-20240620,但是实际给的模型名称是 claude-3-5-soonet,就导致我对话一直转圈。

这一切都做完以后,就可以愉快的使用LobeChat啦!
由于在这方面是小白,所以如果有一些描述上的错误还请大家谅解和指出!
------------编辑后换了很多行-------------

8 Likes

Ohno,第一次发帖,怎么看着排版这么乱

排版第一条,多换行,空间多出来了,就显得不那么乱

感觉太麻烦,还是直接用docker简单些吧

好的!

有些人不太会docker的,搞个WSL都要很久

最近的 gcp 150 目前应该是性价比最高的正宗 claude api 了

这5美元用完去研究一下 :joy:

After doing research keep sharing with us. Very helpful. Thanks.

你为什么说英语

我之前搞 chat2api.new-api.open-webui一样的经历

外国友人

不是国人

为什么不直接用网页呢

我还要研究一下 发克劳德 是什么

有没有API接口及KEY哈

太麻烦了,还要下载,没什么意思……最好就是一个API接口及KEY放到new-api管理

跟着佬一步步来成功啦~好强好强 :kissing_closed_eyes:
就是CPU不太行,每次都把CPU吃满,加载的很慢 :upside_down_face:

哪个网页呀,如果是直接claude3的话,对梯子要求太搞了

哈哈哈哈主要是别的方法还没琢磨明白,所以只能用笨方法