【Meta-Llama-3.1-405B】 api 不限量 复活了

资源荟萃
,
21

另一个还帖子放了 1800$ ，可以去领 18$,这个是更小白了·

22

https://api.deepinfra.com/v1/openai/completions
这个接口可以补全代码,可以用到override里面. 喜欢折腾的朋友可以试试.

23

没试过·，我这个转发接口不可以吗

24

路径不被接受

CleanShot 2024-09-04 at 14.03.38@2x
CleanShot 2024-09-04 at 14.03.38@2x1496×1222 64.5 KB

26

CleanShot 2024-09-04 at 14.06.29@2x
CleanShot 2024-09-04 at 14.06.29@2x2102×1732 387 KB

奇怪,用官的可以.

27

哦哦，没有chat 是吧

28

对呀,补全和对话是两个接口的

29

等我弄一下路径

30

image
image1524×1380 220 KB

是这样吗

31

是的. 补全一般都是流式传输.

32 
    "prompt": "// Path: apps/admin/v2/dto/web_team_dto.go\npackage dto\n\ntype GetTeamPlayerCountDTO struct {\n\tGameList []string `json:\"gameList\" form:\"gameList\" binding:\"required\"`\n}\n\ntype GetTeamInfoDTO struct {\n\tGameShort string `json:\"gameShort\" form:\"gameShort\" binding:\"required\"` //",
    "suffix": "}\n",
    "stream": true,
    "max_tokens": 500,
    "temperature": 0,
    "top_p": 1,
    "n": 1,
    "stop": [
        "\n",
        "\n\n\n",
        "\n\n",
        "\n```"
    ],
    "model": "google/gemma-2-27b-it"
}

这是一个模版,部分常用参数

33

我没用过，一直github学生包,应该是可以了 https://deepinfra.kici.me/v1/completions

34

感谢大佬的分享

35

:ok_hand:t2:,已经可以了

36

补全是这个东西吗，他这个替换上其他补全 url就通用吗

image
image1268×1276 182 KB

37

我上面发了个模版,保留那些参数就可以,其他参数删除掉. 因为override里面的有些参数在这里是不支持的会报错.比如n要强制设置为1,override里面的n可能为3.会报错

38

只需要删除替换发过来其它参数？你有兴趣弄个这个的公车配置吗，我可以提供key 现在有1.5w $ key，我根本花不完

39

来个服务器,我直接给你部署就好了.

40

谢谢分享，已经用上了，可惜不能用图片

41

图片是指？他官网的图片模型？