知识库

模型选型、部署实战、性能调优、FAQ 一站搞定 · 共 3 篇

vLLM v0.27.0 深度解读：Kimi K3 全面支持、Qwen3.5 上线与 FlashAttention 4 集成

vLLM v0.27.0 带来 561 个提交，全面支持 Kimi K3 和 Qwen3.5 模型，集成 FlashAttention 4 并升级 PyTorch 2.13。本文详解新特性、硬件配置建议与成本估算。

生产环境要支撑高并发？vLLM 是首选。本文讲 PagedAttention、连续批处理、量化部署。

Ollama 是最简单的开源大模型部署工具，本文带你在 Linux/Windows/Mac 上 5 分钟跑起来。