Long Context (32K+)
Models with extended context windows for documents and code.
31 models, ranked by Hugging Face downloads.
Qwen 2.5 7B Instruct
Alibaba · 7.6B · apache-2.0
5.3GB · Q4_K_M
12112K dl
Qwen 2.5 1.5B
Alibaba · 1.5B · apache-2.0
1.54GB · Q4_K_M
9923K dl
Llama 3.1 8B Instruct
Meta · 8B · llama3.1
5.08GB · Q4_K_M
9197K dl
Qwen 2.5 3B
Alibaba · 3B · apache-2.0
2.46GB · Q4_K_M
8679K dl
Llama 3.2 3B Instruct
Meta · 3.2B · llama3.2
2.38GB · Q4_K_M
5756K dl
Qwen 2.5 0.5B
Alibaba · 0.5B · apache-2.0
0.96GB · Q4_K_M
5357K dl
Llama 3.2 1B Instruct
Meta · 1.24B · llama3.2
1.25GB · Q4_K_M
4172K dl
Qwen 2.5 32B
Alibaba · 32B · apache-2.0
18.99GB · Q4_K_M
4140K dl
Gemma 3 12B
Google · 12B · gemma
7.3GB · Q4_K_M
2577K dl
Qwen 2.5 Coder 7B
Alibaba · 7.6B · apache-2.0
4.86GB · Q4_K_M
2387K dl
Mistral 7B Instruct v0.3
Mistral AI · 7.3B · apache-2.0
4.57GB · Q4_K_M
2343K dl
Qwen2-VL 2B
Alibaba · 2.2B · apache-2.0
1.42GB · Q4_K_M
2266K dl
DeepSeek R1 Distill 8B
DeepSeek · 8B · mit
5.08GB · Q4_K_M
1753K dl
Gemma 3 4B
Google · 4B · gemma
2.82GB · Q4_K_M
1610K dl
Phi-3.5 Vision
Microsoft · 4.2B · mit
3.2GB · Q4_K_M
1436K dl
Qwen 2.5 14B
Alibaba · 14B · apache-2.0
8.87GB · Q4_K_M
1263K dl
Phi-4 Mini 3.8B
Microsoft · 3.8B · mit
2.82GB · Q4_K_M
1012K dl
Llama 3.1 70B Instruct
Meta · 70B · llama3.1
40.1GB · Q4_K_M
992K dl
Qwen 2.5 Coder 14B
Alibaba · 14B · apache-2.0
8.87GB · Q4_K_M
961K dl
Gemma 3 1B
Google · 1B · gemma
1.25GB · Q4_K_M
890K dl
Gemma 3 27B
Google · 27B · gemma
15.91GB · Q4_K_M
797K dl
DeepSeek R1 Distill 1.5B
DeepSeek · 1.5B · mit
1.54GB · Q4_K_M
751K dl
Phi-3.5 Mini 3.8B
Microsoft · 3.8B · mit
2.73GB · Q4_K_M
667K dl
Qwen 2.5 Coder 1.5B
Alibaba · 1.5B · apache-2.0
1.54GB · Q4_K_M
571K dl
Qwen 2.5 Coder 0.5B
Alibaba · 0.5B · apache-2.0
1.13GB · Q8_0
390K dl
EXAONE 3.5 7.8B
LG AI · 7.8B · other
4.94GB · Q4_K_M
214K dl
Qwen 2.5 Coder 3B
Alibaba · 3B · apache-2.0
2.46GB · Q4_K_M
188K dl
Mistral Nemo 12B
Mistral AI · 12B · apache-2.0
7.46GB · Q4_K_M
127K dl
EXAONE 3.5 2.4B
LG AI · 2.4B · other
2.03GB · Q4_K_M
70K dl
InternLM 2.5 7B
Shanghai AI Lab · 7.7B · apache-2.0
4.89GB · Q4_K_M
39K dl
Mistral Small 22B
Mistral AI · 22B · apache-2.0
12.93GB · Q4_K_M
12K dl