通过groq api可以调用Llama 3.1了吗

[alertsc (章北海)]

在groq创建了api。想通过NextChat或者LobeChat调用Llama 3.1。发现能用的还是3。

[wren]

刚测试我这里可以请求到3.1的8B和70B.

抱歉你可能问的是 NextChat或者LobeChat 我没用过.

[GILMORE]

Early API access to Llama 3.1 405B is currently only available to paying customers - stay tuned for general availability. During preview launch, we are limiting all 3.1 models to max_tokens of 8k and 405b to 16k input tokens.

但是可以用 * Model ID: llama-3.1-70b-versatile和 * Model ID: llama-3.1-8b-instant

[sketu (天源E兔)]

405B用不了

[Reno]

你仔细看看API Interface，免费域有限制

[civil (Bridge Engineer)]

学习一下

[ljnchn (祖龙)]

可以但是有限制，一天 131,072 token

[sketu (天源E兔)]

没有API可以用chat，逆向很容易

[alertsc (章北海)]

选不到新模型啊。试了one-api也是。

[happy_sung (奥特不曼)]

groq2api可以使用的，我已经用上了

[keyang556 (未來)]

用的玩嗎？

[roelauph (Qwara)]

405B以前有，现在被玩没了