> ## Content Index
> Fetch the complete content index at: https://orbiorbi.com/news/llms.txt
> Use this file to discover other available public pages before exploring further.

# vLLM 0.32.0 新增结构化决策与通用解析器
- URL: https://orbiorbi.com/news/hot/vllm-0-32-0-structured-decisions-kv-cache/
- Published: 2026-10-18T10:23:45.000Z
- Updated: 2026-10-18T23:00:38.000Z
- Description: 据 vLLM 发布说明，0.32.0 新增默认提供的 /v1/systemone 结构化决策端点，并加入读取模型 response_template 的 hf 工具与推理解析器。版本还扩展了低精度 KV 缓存支持。
- Author: Orbis News
- Tags: #orbis-hot

据 vLLM 发布说明，0.32.0 新增默认提供的 /v1/systemone 结构化决策端点，并加入读取模型 response\_template 的 hf 工具与推理解析器。版本还扩展了低精度 KV 缓存支持。

- hf 解析器同时支持 Python 和 Rust 前端；提供相应模板的模型无需单独的模型专用解析器。 [\[1\]](#hot-source-1)
- 在发布说明所引基准中，SM100 上 GLM-5.x 默认 FP8 KV 缓存使每个 rank 的 KV 内存减半，吞吐增加 2.3%–5.5%，代价是首 token 延迟增加 7%–11%。 [\[1\]](#hot-source-1)

## 来源与原文

- \[1\] vLLM · 2026-10-18 · [查看原文](https://github.com/vllm-project/vllm/releases/tag/v0.32.0?ref=orbiorbi.com)  
发布说明列出结构化决策端点、通用解析器及低精度缓存扩展。

{"version":2,"hot":{"event\_id":"vllm-0-32-0-structured-decisions-kv-cache","group":"open-source","count":1,"heat":20,"verified":"confirmed","firstSeen":"2026-10-18T10:23:45.000Z","lastSeen":"2026-10-18T23:00:30.415Z","sources":\[{"n":"vLLM","publisher":"vLLM","u":"https://github.com/vllm-project/vllm/releases/tag/v0.32.0","say":"发布说明列出结构化决策端点、通用解析器及低精度缓存扩展。","tier":"T0","at":"2026-10-18T10:23:45.000Z"}\],"signals":\[\],"facts":\["hf 解析器同时支持 Python 和 Rust 前端；提供相应模板的模型无需单独的模型专用解析器。","在发布说明所引基准中，SM100 上 GLM-5.x 默认 FP8 KV 缓存使每个 rank 的 KV 内存减半，吞吐增加 2.3%–5.5%，代价是首 token 延迟增加 7%–11%。"\]}}