【已解决】ollama内网穿透无法访问

开发调优
1

如图：ollama跑起来了的

image
image2489×712 117 KB

然后我用frpc做了内网穿透，frpc也跑起来了的，因为可以接到请求

...frpc其中ollama部分的配置

[ollama]
type = tcp
local_ip = 127.0.0.1
local_port = 11434
remote_port = 11434

...

然后！我从其他电脑直接curl http:// 我的ip地址 :11434/api/tags，或者postman测试，就报错403。

image
image1180×191 23.4 KB

ollama显示请求到了但是噶了，难道我少映射了什么东西咩 :saluting_face:

怎么个事呢，一直没找到原因，要哭了

求大佬帮忙看看

1 个赞
2

是否考虑换一个穿透软件、说不定是这个软件的问题 :thinking:

3

好像得改一下host为0.0.0.0

4

image
image542×128 15.9 KB

这样对不对，我也试着配置了

5

我不是Windows的不太清楚，可以看看官网或者看启动的时候log是不是listen on[:]:11434

6

time=2024-04-24T17:01:11.210+08:00 level=INFO source=routes.go:1143 msg=“Listening on 127.0.0.1:11434 (version 0.1.32)”

7

不太像，我感觉frpc没问题，因为我一直在用 :saluting_face:

8

环境变量配置完要重启一下

9

看起来没改成功把，我的改完之后log是这样的
LLAMA3 % OLLAMA_HOST=0.0.0.0 ollama serve
time=2024-04-22T00:13:14.171+08:00 level=INFO source=images.go:817 msg=“total blobs: 8”
time=2024-04-22T00:13:14.172+08:00 level=INFO source=images.go:824 msg=“total unused blobs removed: 0”
time=2024-04-22T00:13:14.172+08:00 level=INFO source=routes.go:1143 msg=“Listening on [::]:11434 (version 0.1.32)”

10

那我去重启下整个服务器试试

11

嗯，感觉环境变量没打上的锅

12

:disappointed_relieved:厚礼蟹，对winserver部署没有那么熟悉，原来是要重启才行！
解决了！感谢大佬 :smiling_face_with_tear:

13

哭了，还真是打完环境变量没有重启服务器的锅，，终于解决了，阿西吧

14

From 快问快答 to 开发调优