【硅基流动】继续夸硅宝!DeepSeek-R1 & V3 API 升级,支持 Function Calling、JSON Mode、Prefix、FIM

今天,硅基流动 SiliconCloud 平台再次升级 DeepSeek-R1 & V3 API,包括:
支持 Function Calling。允许开发者通过 API 调用外部函数或服务,如搜索外部知识、查阅行程、或某些特定领域工具,有效解决模型的幻觉、知识时效性等问题。SiliconCloud 是为数不多支持 DeepSeek-R1 & V3 的 Function Calling 功能的平台。
支持 JSON Mode。让模型输出 JSON 格式的字符串,以确保模型以预期的结构输出,便于后续对输出内容进行逻辑解析。 支持 Prefix、FIM。用于提高生成文本的准确性、简化生成任务的复杂性以及增强生成文本的可控性,帮助开发者更高效、精确地控制生成文本的内容和结构。

38 个赞

硅基这是要放大招啊 :tieba_087:

1 个赞

前排,支持

不懂Function Calling是啥,期待有大佬解释,结合具体应用场景科普。

硅宝强啊!

function calling到底和模型是不是解耦的呀。。。

我记得R1的fc相比V3是退化了的,本来V3就不是特别好。不知道硅基这个是拿什么做的

硅基启动

手机党不友好

现在的function call用的了吗,我怎么测试是失败的

from openai import OpenAI
client = OpenAI(api_key="sk-", base_url="https://api.siliconflow.cn/v1")

def send_messages(messages):
    response = client.chat.completions.create(
        model="Pro/deepseek-ai/DeepSeek-R1",
        messages=messages,
        tools=tools
    )
    return response.choices[0].message


tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get weather of an location, the user shoud supply a location first",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "The city and state, e.g. San Francisco, CA",
                    }
                },
                "required": ["location"]
            },
        }
    },
]

messages = [{"role": "user", "content": "How's the weather in Hangzhou?"}]
message = send_messages(messages)
print(f"User>\t {messages[0]['content']}")

tool = message.tool_calls[0]
messages.append(message)

messages.append({"role": "tool", "tool_call_id": tool.id, "content": "24℃"})
message = send_messages(messages)
print(f"Model>\t {message.content}")

硅基太强了

就是你写了一个函数供大模型调用

我也好奇,用在 Cline 的时候好像什么 API 也可以调用工具,不知道区别是什么

不完全解耦,需要针对训练(对话模板)

我服了,不加Pro反而就行了,什么情况。加不加Pro好像都很不稳定。

限制语言吗?我可以立即为是自己给个api给大模型用?这个api可以是自己数据库、可以是自己文件操作?

不限制语言,要回调给大模型

1 个赞

是解耦,大部分工具由客户端自主实现

我还没成功过,感觉水平很差,不如v3,v3本来就已经差得没边

可能我理解错了,如果是对于没训练过工具的模型而言,那是基本不会使用的,但一般来说支持tool也就意味着经过训练了,除非是像硅基这样的,还有某些工具使用水平非常差的(也应该是训练的问题),比如gemini