模型库

浏览 40+ 开源大语言模型。按家族、参数、量化精度和显存需求筛选。

模型家族:

参数量:

量化:

显示 1–24 共 50 个结果

Llama 3.1 70B FP16

Llama 3.1 70B Q8_0

Qwen3 32B Q8_0

Llama 3.1 70B Q4_K_M

Llama 3.1 70B 128K Q4_K_M

Qwen3 32B Q4_K_M

Gemma 3 27B Q8_0

Mixtral 8x22B Q4_K_M

DeepSeek R1 Distill Qwen 32B Q4_K_M

Command R 35B Q8_0

Gemma 3 27B Q4_K_M

Mixtral 8x7B Q8_0

DeepSeek R1 Distill Qwen 14B Q8_0

Command R 35B Q4_K_M

Qwen3 14B Q8_0

Llama 3.1 8B FP16

Mixtral 8x7B Q4_K_M

DeepSeek R1 Distill Qwen 14B Q4_K_M

DeepSeek V3 Lite Q8_0

Phi-4 14B Q8_0

Qwen3 14B Q4_K_M

Gemma 3 12B Q8_0

DeepSeek V3 Lite Q4_K_M

Phi-4 14B Q4_K_M