P99 延迟

同一台 A100 80G、同一个 Qwen2.5-32B 模型，从默认配置调到 1240 tokens/s 的完整账单：前缀缓存、max_tokens 收紧、chunked prefill 与 INT8 量化各自贡献多少延迟收益，以及为什么只看均值会把你更差的系统送上生产。