🔮Unsloth 模型目录

Unsloth LLMs 目录，涵盖我们所有的动态 Hugging Face 上的 GGUF、4 位、16 位模型。

GGUF 可让你在以下工具中运行模型： Unsloth Studio✨、Ollama 和 llama.cpp。 指令（4 位） safetensors 可通过 Unsloth 用于推理或微调。

NVIDIA Nemotron 3

Mistral Large 3

235B-A22B-指令

235B-A22B-思考

235B-A22B-指令

Granite-4.0

Gemma 3n

DeepSeek-V3.1

DeepSeek-V3

DeepSeek-R1

R1-0528-Qwen3-8B

蒸馏 Llama 3 8 B

蒸馏 Llama 3.3 70 B

蒸馏 Qwen 2.5 1.5 B

蒸馏 Qwen 2.5 7 B

蒸馏 Qwen 2.5 14 B

蒸馏 Qwen 2.5 32 B

Scout 17 B-16 E

Maverick 17 B-128 E

Llama 3.3

Llama 3.2

Llama 3.1

CodeLlama

FunctionGemma

Gemma 3n

MedGemma

Qwen3-Coder

235B-A22B-思考

235B-A22B-指令

Qwen 2.5 Omni

Qwen 2.5 VL

Qwen 2.5

Qwen 2.5 Coder（128 K）

Qwen 2（聊天）

Qwen 2 VL

Magistral

Mistral Small

3.2-24 B（2506）

3.1-24 B（2503）

3-24 B（2501）

Devstral

Small-24 B（2507）

Small-24 B（2505）

Mistral NeMo

Mistral Large

Mistral 7 B

Baidu-ERNIE

4.5-21B-A3B-思考

1.6 Mistral（7 B）

TinyLlama

SmolLM 2

Zephyr-SFT

16 位和 8 位指令模型用于以下场景的推理或微调： Unsloth Studio:

gpt-oss （新）

Gemma 3n

DeepSeek-R1-0528

R1-0528-Qwen3-8B

Small 3.2 24B（2506）

Small 3.1 24B（2503）

Small 3.0 24B（2501）

Magistral Small（2506）

Scout 17B-16E

Maverick 17B-128E

Qwen 2.5 Omni

DeepSeek 模型

DeepSeek-V3

DeepSeek-R1

R1-0528-Qwen3-8B

蒸馏 Llama 3 8B

蒸馏 Llama 3.3 70B

蒸馏 Qwen 2.5 1.5B

蒸馏 Qwen 2.5 7B

蒸馏 Qwen 2.5 14B

蒸馏 Qwen 2.5 32B

Llama 模型

Scout 17B-16E

Maverick 17B-128E

Llama 3.3

Llama 3.2

Llama 3.1

Gemma 模型：

Gemma 3n

Qwen 模型：

Qwen 2.5 Omni

Qwen 2.5 VL

Qwen 2.5

Qwen 2.5 Coder 128 K

Qwen 2（聊天）

Qwen 2 VL

Mistral 模型：

Small 2409-22B

Mistral NeMo

Devstral

文本转语音（TTS）模型：

Orpheus-3B（v0.1 ft）

Orpheus-3B（v0.1 pt）

Sesame-CSM 1B

Whisper Large V3（STT）

Llasa-TTS 1B

Spark-TTS 0.5B

hashtag新模型与推荐模型：

hashtagDeepSeek 模型：

hashtagLlama 模型：

hashtagGemma 模型：

hashtagQwen 模型：

hashtagGLM 模型：

hashtagMistral 模型：

hashtagPhi 模型：

hashtag其他（GLM、Orpheus、Smol、Llava 等）模型：

新模型与推荐模型：

DeepSeek 模型：

Llama 模型：

Gemma 模型：

Qwen 模型：

GLM 模型：

Mistral 模型：

Phi 模型：

其他（GLM、Orpheus、Smol、Llava 等）模型：