DeepSeek V3 671B-A37B
671B-A37B·LLM·专家
预估硬件成本
¥50.00万
671B-A37B专家部署装机4× A100 80G/H100·320 GB 总显存
vLLM/SGLang · FP8/INT4
硬件配置
- GPU 型号
- 4× A100 80G/H100
- 总显存
- 320 GB
- 内存
- 256 GB
- 存储
- 400 GB
- 量化方式
- FP8/INT4
- 推理引擎
- vLLM/SGLang
性能与场景
- 生成速度
- 10 tokens/s
- 适用场景
- 深度推理、复杂任务、企业级应用
- 部署难度
- 专家
- 数据来源
- 🟡 估算
- 测试环境
- 4x A100 80G/H100 320GB 总显存 · vLLM/SGLang FP8/INT4
DeepSeek最新旗舰V3/V4，671B总参数37B激活。MoE架构，推理能力顶尖。需要多卡A100/H100集群，适合高性能企业部署。