ollama 0.4.0 预发布 新增llama3.2-vision

[wren]

测试:

之前有llava、minicpm、 现在有来了一个llama3.2

[handsome (大帅哥)]

挺好的，居然更了

[wren]

是啊, 还以为会难产. 有进步.

[Mowd]

太好了，都快一個月了

[Selenium39]

minicpm我本地跑一个简单的验证码都识别不对，感觉效果不行

[wren]

我简单试了试.

[Selenium39]

不错，至少比minicpm好

[wren]

试试llama3.2 对比下结果.

[Myqwn2729]

OCR跟 4o比怎么样？

[wren]

没详细测试过 视觉用得少

[annavee]

这么溜，速度怎么样？

[shanai]

啥时候支持 Qwen-VL 啊

[wren]

这得看 llama.cpp 的组织了

[wren]

速度看设备.我这个电脑不算快. 质量比minicpm好些.

[likoo]

正在更新中~~

[yinuan-i (Mango.)]

感觉带了图片速度非常慢，同等模型，秒出，带图就得等一分半才出

[wren]

Ollama0.4最新正式版 - Meta Llama 3.2视觉模型11B和90B

[图片] 今早测试了一下,本地跑识别图还是有些吃力. 图片的信息是: [image] 第一次对话时 用的时间大概是70-80秒. 后面不识别时几乎很快就能返回结果. 在监控中可以看到,第一次对话GPU直接满了.

我早上试了试,我这笔记本本地跑也挺吃力的.

[wren]

groq API支持vision模型