【推荐】开发了个简化版转发器simple-one-api,来给沉浸式翻译使用

能加一个cloudflare ai的支持吗?

感谢!

1 个赞

强 学习一下

1 个赞

我看这个是自动兼容openai协议的,因此可以这样配置

{
	"server_port": ":9090",
	"load_balancing": "random",
	"services": {
		"openai": [{
			"models": ["deepseek-ai/deepseek-llm-67b-chat"],
			"enabled": true,
			"credentials": {
				"api_key": "xxx"
			},
			"server_url": "https://api.siliconflow.cn/v1"
		}]
	}
}

是这个接口吗?我来看看,加上问题不大

1 个赞

再看了看文档:OpenAI compatible API endpoints · Cloudflare Workers AI docs

Workers AI 还支持 /v1/chat/completions ,也就是说Workers AI 兼容OpenAI的接口,因此可以直接在simple-one-api中使用。

具体接入说明文档我更新了: Cloudflare_Workers_AI申请使用流程

3 个赞

好诶!Mark!

酷啊~

这不就我们希望的纯净API吗?没有什么多用户啥的,只管用,厉害!
对了可以docker部署吗

已经支持了,文档也做了一波更新, 文档地址:

Docker 启动

以下是如何使用 Docker 部署 simple-one-api 的步骤: 运行 使用以下命令运行 Docker 容器,同时挂载你的配置文件 config.json

docker run -d -p 9090:9090 -v /path/to/config.json:/app/config.json fruitbars/simple-one-api

请确保将 /path/to/config.json 替换为 config.json 文件在你主机上的绝对路径。

查看容器日志 你可以使用以下命令查看容器的日志输出:

docker logs -f <container_id>

其中,<container_id> 是容器的 ID,可以通过 docker ps 命令查看。

2 个赞

感谢辛勤付出 :rofl:

wow,感谢!我以前以为cloudflare ai只能通过它那个cloudflare worker里面调用。我没有看它具体文档。主要是想着用它免费配额结合这个项目翻译电子书。如果原本就支持openai api格式话就方便很多了。

我下一步准备做文档翻译(pdf、word等)了,可以操作翻译文档做成双语的。
因为还搞了一个项目:

项目地址:https://www.pdf2docx.cn/


大佬,大善人我copy文档的样例测试不行,报错
image

但是使用使用curl正常

反馈:

日志信息表面它没有走定义的server_url,求大佬指点

是不是one-api 精简版本呢

不好意思,对于cloudflare url的处理有点异常,更新到v0.4了。到v1的路径,或者全路径都支持了!

如果是用的docker,删除原来的docker,重新运行

docker run -d -p 9090:9090 -v /path/to/config.json:/app/config.json fruitbars/simple-one-api:v0.4

算是吧,因为定位就是自己使用,实现的时候非常精简。

感谢大佬的付出,论坛有你更加精彩

讨论

cf 的@cf/meta/llama-3-8b-instruct 不支持中文 , 翻译不了
有哪个对中文支持好一点的呢