骁龙8gen3+16G的配置 我看很多佬友说都可以部署7b模型 实际上我部署其他3.2B的也毫无压力,但是r1蒸馏的那几个 即使是1.5b都会闪退 这是为什么呢?(我没有用termux,直接在pocketal里下载打开就闪退)
8 个赞
球球了 有没有大佬解惑 一直想本地部署小模型
还是闪退 llama都能打开 qwen都闪退
Android Crashes: Known Device/Quantization Incompatibilities · Issue #107 · a-ghorbani/pocketpal-ai · GitHub 闪退是bug,8gen3在闪退名单里。我部署qwen,低版本会好一点,高版本特别容易闪退。不行就termux+ollama吧。
感谢 确实如此!
真我Gt5rpo
只能用你的方式部署了 pocketal闪退解决不了