有没有打了解锁补丁的老哥来聊聊是算力翻倍还是徒增功耗
2 个赞
哈哈, 你起码说说自己的看法啊 哎,被骗进来了
是指解锁dlss5吗,还没有打,不过看了下二手市场价格变动不大
不是,看x 基本就是读快即prefill快,吐token 即decode还是慢。 所以对长prompt 明显:FP8 model, long prompts。 对不利用unlokc出的矩阵计算的量化模型比如INT4或者IQ3_S几乎没啥改善
3 个赞
解锁张量核心限制
提升 80% FP32 和 FP16/BF16 的理论性能
不玩 AI 的应该没啥用