Gemma

Gemma 3 27B Q8_0

Gemma 3 27B Q8_0 是 Gemma 家族的一款中大规格模型,采用 8 位量化。拥有 27 亿参数,分布于 46 网络层,具备 33K 的上下文窗口,需要旗舰级硬件才能达到最佳性能。它在同类模型中名列前茅,质量评分 90/100。

技术规格

模型家族Gemma
完整名称Gemma 3 27B Q8_0
参数量27 B27,000,000,000 总参数量
量化格式Q8_08-bit
推荐显存37.8GB最低显存 31.1 GB
上下文长度32,768tokens
隐藏维度6912
网络层数46
质量评分90/100
模型体积27.0 GB仅模型权重,不含 KV Cache

Strengths

  • 高质量评分(90/100)— 适合生产环境使用
  • 充足的 33K 上下文窗口,满足多数应用需求
  • 高精度量化(Q8_0 — 8 位)— 近乎无损的质量

Limitations

  • 高显存需求(37.8 GB)— 仅限高端 GPU
  • 高精度意味着更大的显存占用和较慢的推理速度
下载模型在 HuggingFace 查看

FAQ

Gemma 3 27B Q8_0 — Specs, VRAM Requirements & GPU Recommendations — LLMFit Web