NVIDIA GeForce RTX 4090
NVIDIA GeForce RTX 4090 是 NVIDIA 推出的一款 高性能 GPU。 拥有高达 24 GB 的大容量显存，可以运行当前几乎所有开源大语言模型 它提供 82.58 TFLOPS 的 FP32 计算性能 ，拥有 1008 GB/s 的内存带宽 可以运行数据库中 20 个模型。 对于希望在大模型上获得流畅性能的本地 LLM 爱好者来说，这是一个可靠的选择。
技术规格
| 厂商 | NVIDIA |
| 完整型号 | NVIDIA GeForce RTX 4090 |
| 显存 | 24GB |
| 性能等级 | 高端 |
| 跑分评分 | 38,900 |
| FP32 算力 | 82.58TFLOPS |
| 内存带宽 | 1008GB/s |
| 兼容模型 | 20可在该 GPU 上运行的模型数量 |
优势
- 24 GB 显存 — 几乎可以运行当前所有开源模型
- 82.58 TFLOPS — 强大的计算性能，token 生成速度快
- 1008 GB/s 带宽 — 适合大模型推理
局限
兼容模型 (20)
Gemma88%
Gemma 3 27B Q4_K_M
27.0B
23 GB
Q4_K_M
32,768 ctx
DeepSeek87%
DeepSeek R1 Distill Qwen 14B Q8_0
14.0B
19.6 GB
Q8_0
131,072 ctx
Qwen86%
Qwen3 14B Q8_0
14.0B
19.6 GB
Q8_0
32,768 ctx
Llama86%
Llama 3.1 8B FP16
8.0B
20.8 GB
FP16
8,192 ctx
DeepSeek85%
DeepSeek R1 Distill Qwen 14B Q4_K_M
14.0B
11.9 GB
Q4_K_M
131,072 ctx
DeepSeek85%
DeepSeek V3 Lite Q8_0
16.0B
22.4 GB
Q8_0
32,768 ctx
Phi85%
Phi-4 14B Q8_0
14.0B
19.6 GB
Q8_0
16,384 ctx
Qwen84%
Qwen3 14B Q4_K_M
14.0B
11.9 GB
Q4_K_M
32,768 ctx
Gemma84%
Gemma 3 12B Q8_0
12.0B
16.8 GB
Q8_0
32,768 ctx
DeepSeek83%
DeepSeek V3 Lite Q4_K_M
16.0B
13.6 GB
Q4_K_M
32,768 ctx
Phi83%
Phi-4 14B Q4_K_M
14.0B
11.9 GB
Q4_K_M
16,384 ctx
Yi83%
Yi 1.5 9B Q8_0
9.0B
12.6 GB
Q8_0
4,096 ctx
还有 8。查看 模型库获取完整列表