Llama-3.1-8B
8B·LLM·入门
预估硬件成本
¥0.70万
8B入门部署装机1× RTX 3090·24 GB 总显存
Ollama · FP16
硬件配置
- GPU 型号
- 1× RTX 3090
- 总显存
- 24 GB
- 内存
- 32 GB
- 存储
- 100 GB
- 量化方式
- FP16
- 推理引擎
- Ollama
性能与场景
- 生成速度
- 40 tokens/s
- 适用场景
- 个人开发/英文场景
- 部署难度
- 入门
- 数据来源
- 🟢 实测参考
- 测试环境
- RTX 3090 24GB · Ollama FP16
单卡 3090 二手方案，FP16 全精度，英文能力突出。适合个人开发者和英文为主的场景，性价比极高。