魔方简历:新增支持自定义API端点

从下面这个帖子继续讨论

原贴里面分享了一个ai辅助的简历制作工具,刚好最近在找工作,所以就试着部署了一下,部署之后看界面和功能也挺不错的,但是唯一不足的就是不支持自定义AI提供商,这就有点难受了,于是昨天晚上修改了一晚上,终于新增了该功能,支持openai格式的任意ai模型调用了
上点演示图



由于代码写的较烂,本来想提一个pr合并,但是觉得麻烦,就不合了,想用的佬可以自部署
可以自定义接入newapi或其他第三方api
GitHub地址:

部署无需填写环境变量,直接fork后导入vercel,部署完成之后,首页打开dashboard可能有点慢,可以直接自己拼接api配置地址快速打开:

https://youdomain/app/dashboard/ai

记得当前使用的模型下拉选择自定义服务商
需要填写apikey,baseurl(示例:https://api/v1/chat/completions),模型名,然后就可以enjoy it了

ps:ai检测错误功能,可能有时候会失败,因为原作者使用的是提示词返回json内容进行解析,模型有时候返回的数据可能会异常导致解析失败,多试几次应该就ok了,或者换模型

部署完成后,推荐在vercel设置内把function的时间设置为最大60s然后重新部署

17 个赞

哇,可以试试

1 个赞

试试还可以,哈哈哈

感谢大佬分享,上面那个地址是你改过支持自定义api的吗

对的,昨天晚上没睡觉改了一晚,现在能支持第三方API了

1 个赞


我确认模型是可用的,但是生成没有内容,也没有任何报错

换一个试试,有些模型不能严格按照规则生成json数据,可能会报错的,你可以试试这个项目的免费api

大佬厉害了,给你点赞

1 个赞

感谢支持哈哈

前几周在隔壁 v2ex 看到了体验下,很不错,支持佬

1 个赞

还不错,就是原本的它不支持第三方API

用的new-api的duck,理论应该没毛病

应该是没错,但是一些逆的模型可能没法正常解析,比如只支持流式响应,但不支持非流式的,这个好像是用非流式请求的,所以有些模型用不了

感谢分享

1 个赞

mark

这个算是站在大佬的肩膀上再向前走一步了

好像只能x86/64上 macmini没部署成功

个人用的话直接用vercel部署就可以了

谢谢佬友 已经搞定