【已开源在GitHub】我上午开发的一个小工具:Ollama2OpenAI

有些时候我们发现一个应用只支持使用Ollama作为AI的提供者,但是自己的服务器性能不足以本地部署Ollama,却又找不到公共的Ollama实例;想直接填入OpenAI的BaseURL发现不兼容。或者是想测试自己开发的项目的Ollama支持是否可用。这时候可能就用得上我这个小工具了:
它的作用就是将Ollama格式的请求转换为OpenAI格式
目前实现了/api/tags,/api/chat,/api/generate三个核心的接口。
实现了一个简单的前端,可以配置OpenAI BaseURL,key,Ollama APIKey,还有模型映射。有密码认证,防止别人偷走你的Key。
Dify测试过可以正常使用。


前端预览:

GitHub链接

我没太多开发经验,有问题或者需求还望issue指出。
有用的话给个star​:star2:吧~:wink:

9 Likes

支持Docker部署。

1 Like

感谢分享

1 Like

支持佬友

1 Like

感谢分享!!!

1 Like

太强了,大佬

1 Like

大佬 我想请教一下Ollama格式和Openai格式有什么区别嘛 我看文档说是兼容的 :thinking:

你的三个接口也有提供

ollama/docs/api.md at main · ollama/ollama

1 Like

感谢分享先mark一下 :crescent_moon:

1 Like

Ollama官方是兼容OpenAI接口的,我这个项目主要是针对应用使用Ollama原生接口的情况,如果应用对Ollama使用了和OpenAI一样的接口那就用不着我这个了

嗷嗷 谢谢解惑!我又去看了文档现在分清楚这两套接口格式了 :tieba_087:

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。