github: eagle-hq/EAGLE-4，vllm还没上，可以关注一下。
目前只支持 Qwen3.8-27B
| 方法 | 比原版更快 |
|---|---|
| MTP | 2.22倍 |
| DSpark | 2.57倍 |
| DFlash 2 | 2.80倍 |
| EAGLE-4 | 3.59倍 |
2 个赞
不知道在长上下文和多并发时能不能保证这个速度
github: eagle-hq/EAGLE-4，vllm还没上，可以关注一下。
目前只支持 Qwen3.8-27B
| 方法 | 比原版更快 |
|---|---|
| MTP | 2.22倍 |
| DSpark | 2.57倍 |
| DFlash 2 | 2.80倍 |
| EAGLE-4 | 3.59倍 |
不知道在长上下文和多并发时能不能保证这个速度