Mistral 3 14B
14B·LLM·入门
预估硬件成本
¥0.70万
14B入门部署装机1× RTX 4060 Ti 16GB / RTX 3090 24GB·8 GB 总显存
Ollama / vLLM / llama.cpp · INT4 (Q4_K_M GGUF)
硬件配置
- GPU 型号
- 1× RTX 4060 Ti 16GB / RTX 3090 24GB
- 总显存
- 8 GB
- 内存
- 16 GB
- 存储
- 10 GB
- 量化方式
- INT4 (Q4_K_M GGUF)
- 推理引擎
- Ollama / vLLM / llama.cpp
性能与场景
- 生成速度
- 35 tokens/s
- 适用场景
- 多语言处理/代码生成/欧洲数据合规
- 部署难度
- 入门
- 数据来源
- 🟢 实测参考
- 测试环境
- RTX 4060 Ti 16GB / RTX 3090 24GB 8GB · Ollama / vLLM / llama.cpp INT4 (Q4_K_M GGUF)
法国Mistral AI 2025年12月发布的第三代开源模型，14B参数。多语言能力突出（尤其中英法德），代码生成强劲。INT4量化仅需8GB显存，单卡可跑。完全开源Apache 2.0协议，适合企业合规部署。欧洲数据主权首选方案。