关于Ollama Cloud中各个模型的量化版本。(跟ds官方一样,maybe?)

可以在终端用这段代码去获取:

$headers = @{ Authorization = "Bearer $env:OLLAMA_API_KEY" }
$models = (Invoke-RestMethod 'https://ollama.com/api/tags' -Headers $headers).models.name

$data = [System.Collections.Generic.List[PSObject]]::new()

foreach ($m in ($models | Sort-Object)) {
    $show = Invoke-RestMethod 'https://ollama.com/api/show' -Method Post -Headers $headers `
            -ContentType 'application/json' `
            -Body (@{ model = $m } | ConvertTo-Json -Compress)

    $base = $m.Split(':')[0]
    $ps   = [string]$show.details.parameter_size
    $size = if     ($ps -match '^([\d.]+)\s*[Bb]$') { [int][math]::Floor([double]$Matches[1]) }
            elseif ($ps -match '^[\d.]+$')         { [int][math]::Floor([double]$ps / 1e9) }
            else                                   { $null }

    if (-not $size) {
        $pc = $show.model_info.'general.parameter_count'
        if ($pc) { $size = [int][math]::Floor([double]$pc / 1e9) }
    }

    $arch = $show.model_info.'general.architecture'
    $ctx  = $show.model_info."$($arch).context_length"

    $q    = if ([string]::IsNullOrWhiteSpace($show.details.quantization_level)) { '-' } else { $show.details.quantization_level }
    $caps = ($show.capabilities | Sort-Object) -join ','

    $data.Add([PSCustomObject]@{
        Model   = "[$m](https://ollama.com/library/$base)"
        Size    = if ($null -eq $size) { '-' } else { "${size}b" }
        Context = if ($null -eq $ctx)  { '-' } else { [string]$ctx }
        Quant   = $q
        Caps    = if ([string]::IsNullOrWhiteSpace($caps)) { '-' } else { $caps }
    })
}

# 计算每一列的最大宽度 (包含表头)
$wModel   = ($data.Model   + "model"        | Measure-Object -Maximum Length).Maximum
$wSize    = ($data.Size    + "size"         | Measure-Object -Maximum Length).Maximum
$wContext = ($data.Context + "context"      | Measure-Object -Maximum Length).Maximum
$wQuant   = ($data.Quant   + "quant"        | Measure-Object -Maximum Length).Maximum
$wCaps    = ($data.Caps    + "capabilities" | Measure-Object -Maximum Length).Maximum

# 构造输出
$lines = [System.Collections.Generic.List[string]]::new()
$lines.Add("| $("model".PadRight($wModel)) | $("size".PadRight($wSize)) | $("context".PadRight($wContext)) | $("quant".PadRight($wQuant)) | $("capabilities".PadRight($wCaps)) |")
$lines.Add("| $("-" * $wModel) | $("-" * $wSize) | $("-" * $wContext) | $("-" * $wQuant) | $("-" * $wCaps) |")

foreach ($row in $data) {
    $lines.Add("| $($row.Model.PadRight($wModel)) | $($row.Size.PadRight($wSize)) | $($row.Context.PadRight($wContext)) | $($row.Quant.PadRight($wQuant)) | $($row.Caps.PadRight($wCaps)) |")
}

# 输出并复制到剪贴板
$finalTable = $lines -join "`n"
$finalTable | Set-Clipboard
$finalTable

亦或者用

也可以用以下命令

ollama show <模型名称>:cloud

而通过以下命令获取deepseek官方hf的模型信息可以得知,官方用的也是fp8

$config = Invoke-RestMethod -Uri "https://huggingface.co/api/models/deepseek-ai/DeepSeek-V4.1-Flash/revision/main"
$config.config.quantization_config

10 个赞

ollama cloud就是额度太少,起点太高了。要是能出个10美元用30美元的也可以

1 个赞

发现一个更简单的方法,直接访问以下链接可查看ollama各个模型以及当前的状态,如TPS TTFT。

还真是,20美刀太贵了,也用不到这么多的token :melting_face:不然我现在也不会用wb的70块套餐了

1 个赞

:rofl:给我老套餐我就上,新老一比,新套餐有点蠢。

ollama pro现在新套餐是20刀换60刀?如果用量不低的话感觉好像也还行,毕竟cline和opencode这俩我一直觉得有降智速度还慢

是的,20兑60。但因为我们工作时间对应的是ollama的谷价时段,所以用deepseek的话实际上是20兑120。

2 个赞

车门已经焊死了,我也想找老套餐。不然也不会在用workbuddy。 :melting_face:最近看很多人反代wb出事我才又想着跳去Ollama。虽然现在我国内付费档反代到zcode用还很正常

蛤?不是60刀,然后峰谷另外算?

嗯?不是我想象的那样吗?我想的是20兑60刀,但是因为是谷价,所以实际相当于120刀来着。(纯用deepseek模型的话)。因为我对比的是opencode和commandcode那些,他们10刀兑80刀,但我们工作时间在他们那都算峰价,因此实际是40刀?(纯用deepseek)

算了大清早有点懵,算不明白 :distorted_face:

但至少同样是自部署,ollama质量肯定比oc和ccg这两家好就行 :joy:我之前用过ccg真的是不咋滴

1 个赞

佬,问下ollma的20刀套餐,ds-v4.1的tokens量大概有多少呢

最近也在考虑 ollama cloud,opencode go 的 ttft 和 tps都太拉了,一个月也就 60Y左右的token 用量,下个月用 ollama cloud 看看。

全谷价的话一个月好像是6.211B tokens左右吧

ollama新套餐好像也是60亿左右,而且比较贵,得20美刀。但质量确实比除了官方的其他家好。稳定加不降智

1 个赞

老套餐用量 一周大概 40 亿 每个月能用四周多,每月至少 160 亿 deepseek-4.1-flash


1 个赞

ollama 五十万上下文时首字也能 2s 多响应,tps 也能够达到 200+

1 个赞

羡慕了,可惜我之前没入手:smiling_face_with_tear:要买只能买新套餐了

他家最大 token 输出比官方短,佬用起来感觉影响大吗?我 cline 明天到期也有点想换 ollama 试试

这个问题好像在4.1 时就已经修复了,从来没有遇到到输出长度导致的错误