GLM5.2与DSv4-flash本地化测试¶
| 部署场景（RTX5090） | DeepSeek-V4-Flash-0731 | GLM-5.2-NVFP4 | ||
|---|---|---|---|---|
| 速度 | 上下文 | 速度 | 上下文 | |
| TP1 / 全 CPU MoE | 52 tok/s | 206K | — | — |
| TP2 / 全 CPU MoE | 50 tok/s | 359K | 19 tok/s | 96K |
| TP4 / 全 CPU MoE | — | 未测试 | 19 tok/s | 180K |
| TP8 / 全 CPU MoE | 50 tok/s | 465K | 18 tok/s | 228K |
| TP8 / CPU+GPU MoE | 117 tok/s | 128K | 21 tok/s | 80K |
| TP8 / 全 GPU MoE | 180 tok/s | 12K | — | — |
本站总访问量 次
Authors: