Qwen

Qwen3 4B Q4_K_M

Qwen3 4B Q4_K_M 是 Qwen 家族的一款中等规模模型,采用 4 位高压缩量化。拥有 4 亿参数,分布于 36 网络层,具备 33K 的上下文窗口,可在入门级 GPU 上流畅运行。它以 68/100 的质量评分提供可靠性能。

技术规格

模型家族Qwen
完整名称Qwen3 4B Q4_K_M
参数量4 B4,000,000,000 总参数量
量化格式Q4_K_M4-bit
推荐显存3.4GB最低显存 2.4 GB
上下文长度32,768tokens
隐藏维度2560
网络层数36
质量评分68/100
模型体积2.0 GB仅模型权重,不含 KV Cache

Strengths

  • 稳定的质量评分(68/100)— 适合大多数任务
  • 低显存需求(3.4 GB)— 可在大多数消费级 GPU 上运行
  • 充足的 33K 上下文窗口,满足多数应用需求
  • 高压缩量化(Q4_K_M — 4 位)— 显存占用极小

Limitations

  • 高压缩量化可能带来轻微质量损失
下载模型在 HuggingFace 查看

FAQ

Qwen3 4B Q4_K_M — Specs, VRAM Requirements & GPU Recommendations — LLMFit Web