20267 lines
454 KiB
JSON
20267 lines
454 KiB
JSON
{
|
||
"llama3.1": {
|
||
"url": "https://ollama.com/library/llama3.1",
|
||
"description": "Llama 3.1 is a new state-of-the-art model from Meta available in 8B, 70B and 405B parameter sizes.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"405b",
|
||
"231 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"8b",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q2_k",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"70b-instruct-fp16",
|
||
"141 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q2_K",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_L",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_M",
|
||
"34 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_S",
|
||
"31 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_0",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_1",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_K_M",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_K_S",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_0",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_1",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_K_M",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_K_S",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q6_K",
|
||
"58 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q8_0",
|
||
"75 GB"
|
||
],
|
||
[
|
||
"8b-instruct-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_M",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_S",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q8_0",
|
||
"8.5 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Meta"
|
||
},
|
||
"gemma2": {
|
||
"url": "https://ollama.com/library/gemma2",
|
||
"description": "Google Gemma 2 is now available in 2 sizes, 9B and 27B.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"27b",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"9b",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"27b-instruct-fp16",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q2_K",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q3_K_L",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q3_K_M",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q3_K_S",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q4_0",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q4_1",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q4_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q4_K_S",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q5_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q5_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q5_K_M",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q5_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q6_K",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"27b-instruct-q8_0",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"27b-text-fp16",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"27b-text-q2_K",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"27b-text-q3_K_L",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"27b-text-q3_K_M",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"27b-text-q3_K_S",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"27b-text-q4_0",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"27b-text-q4_1",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"27b-text-q4_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"27b-text-q4_K_S",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"27b-text-q5_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"27b-text-q5_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"27b-text-q5_K_M",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"27b-text-q5_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"27b-text-q6_K",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"27b-text-q8_0",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"9b-instruct-fp16",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q2_K",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q3_K_L",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q3_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q3_K_S",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q4_0",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q4_1",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q4_K_M",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q4_K_S",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q5_0",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q5_1",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q5_K_M",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q5_K_S",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q6_K",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"9b-instruct-q8_0",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"9b-text-fp16",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"9b-text-q2_K",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"9b-text-q3_K_L",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"9b-text-q3_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"9b-text-q3_K_S",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"9b-text-q4_0",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"9b-text-q4_1",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"9b-text-q4_K_M",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"9b-text-q4_K_S",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"9b-text-q5_0",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"9b-text-q5_1",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"9b-text-q5_K_M",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"9b-text-q5_K_S",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"9b-text-q6_K",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"9b-text-q8_0",
|
||
"9.8 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Google DeepMind"
|
||
},
|
||
"mistral-nemo": {
|
||
"url": "https://ollama.com/library/mistral-nemo",
|
||
"description": "A state-of-the-art 12B model with 128k context length, built by Mistral AI in collaboration with NVIDIA.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"7.1 GB"
|
||
],
|
||
[
|
||
"12b",
|
||
"7.1 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-fp16",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q2_K",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q3_K_L",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q3_K_M",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q3_K_S",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q4_0",
|
||
"7.1 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q4_1",
|
||
"7.8 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q4_K_M",
|
||
"7.5 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q4_K_S",
|
||
"7.1 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q5_0",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q5_1",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q5_K_M",
|
||
"8.7 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q5_K_S",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q6_K",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"12b-instruct-2407-q8_0",
|
||
"13 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Mistral AI"
|
||
},
|
||
"mistral-large": {
|
||
"url": "https://ollama.com/library/mistral-large",
|
||
"description": "Mistral Large 2 is Mistral's new flagship model that is significantly more capable in code generation, mathematics, and reasoning with 128k context window and support for dozens of languages.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"123b",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-fp16",
|
||
"245 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q2_K",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q3_K_L",
|
||
"65 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q3_K_M",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q3_K_S",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q4_0",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q4_1",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q4_K_M",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q4_K_S",
|
||
"70 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q5_0",
|
||
"84 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q5_1",
|
||
"92 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q5_K_M",
|
||
"86 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q5_K_S",
|
||
"84 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q6_K",
|
||
"101 GB"
|
||
],
|
||
[
|
||
"123b-instruct-2407-q8_0",
|
||
"130 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Mistral AI"
|
||
},
|
||
"qwen2": {
|
||
"url": "https://ollama.com/library/qwen2",
|
||
"description": "Qwen2 is a new series of large language models from Alibaba group",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"72b",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"1.5b",
|
||
"935 MB"
|
||
],
|
||
[
|
||
"0.5b",
|
||
"352 MB"
|
||
],
|
||
[
|
||
"72b-instruct",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-instruct-fp16",
|
||
"145 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q2_K",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q3_K_L",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q3_K_M",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q3_K_S",
|
||
"34 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q4_0",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q4_1",
|
||
"46 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q4_K_M",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q4_K_S",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q5_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q5_1",
|
||
"55 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q5_K_M",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q5_K_S",
|
||
"51 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q6_K",
|
||
"64 GB"
|
||
],
|
||
[
|
||
"72b-instruct-q8_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"72b-text",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-text-fp16",
|
||
"145 GB"
|
||
],
|
||
[
|
||
"72b-text-q2_K",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"72b-text-q3_K_L",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"72b-text-q3_K_M",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"72b-text-q3_K_S",
|
||
"34 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_0",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_1",
|
||
"46 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_K_M",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_K_S",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_1",
|
||
"55 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_K_M",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_K_S",
|
||
"51 GB"
|
||
],
|
||
[
|
||
"72b-text-q6_K",
|
||
"64 GB"
|
||
],
|
||
[
|
||
"72b-text-q8_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"7b-instruct",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q2_K",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_L",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_M",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_0",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_1",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_M",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_0",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_1",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_M",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_S",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q6_K",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q8_0",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"7b-text",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-text-q2_K",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_L",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_M",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_0",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_1",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_M",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_0",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_1",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q8_0",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct",
|
||
"935 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-fp16",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q2_K",
|
||
"676 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q3_K_L",
|
||
"880 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q3_K_M",
|
||
"824 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q3_K_S",
|
||
"761 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q4_0",
|
||
"935 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q4_1",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q4_K_M",
|
||
"986 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q4_K_S",
|
||
"940 MB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q5_0",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q5_1",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q5_K_M",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q5_K_S",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q6_K",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.5b-instruct-q8_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"0.5b-instruct",
|
||
"352 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-fp16",
|
||
"994 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q2_K",
|
||
"339 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q3_K_L",
|
||
"369 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q3_K_M",
|
||
"355 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q3_K_S",
|
||
"338 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q4_0",
|
||
"352 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q4_1",
|
||
"375 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q4_K_M",
|
||
"398 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q4_K_S",
|
||
"385 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q5_0",
|
||
"397 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q5_1",
|
||
"419 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q5_K_M",
|
||
"420 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q5_K_S",
|
||
"413 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q6_K",
|
||
"506 MB"
|
||
],
|
||
[
|
||
"0.5b-instruct-q8_0",
|
||
"531 MB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Alibaba"
|
||
},
|
||
"deepseek-coder-v2": {
|
||
"url": "https://ollama.com/library/deepseek-coder-v2",
|
||
"description": "An open-source Mixture-of-Experts code language model that achieves performance comparable to GPT4-Turbo in code-specific tasks.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"236b",
|
||
"133 GB"
|
||
],
|
||
[
|
||
"16b",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"lite",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q4_k_m",
|
||
"142 GB"
|
||
],
|
||
[
|
||
"236b-instruct-fp16",
|
||
"472 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q2_K",
|
||
"86 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q3_K_L",
|
||
"122 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q3_K_M",
|
||
"113 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q3_K_S",
|
||
"102 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q4_0",
|
||
"133 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q4_1",
|
||
"148 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q4_K_M",
|
||
"142 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q4_K_S",
|
||
"134 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q5_0",
|
||
"162 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q5_1",
|
||
"177 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q5_K_M",
|
||
"167 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q5_K_S",
|
||
"162 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q6_K",
|
||
"194 GB"
|
||
],
|
||
[
|
||
"236b-instruct-q8_0",
|
||
"251 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-fp16",
|
||
"31 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q2_K",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q3_K_L",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q3_K_M",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q3_K_S",
|
||
"7.5 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q4_0",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q4_1",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q4_K_M",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q4_K_S",
|
||
"9.5 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q5_K_M",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q6_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"16b-lite-base-q8_0",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-fp16",
|
||
"31 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q2_K",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q3_K_L",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q3_K_M",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q3_K_S",
|
||
"7.5 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q4_0",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q4_1",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q4_K_M",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q4_K_S",
|
||
"9.5 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q5_K_M",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q6_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"16b-lite-instruct-q8_0",
|
||
"17 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "DeepSeek Team"
|
||
},
|
||
"phi3": {
|
||
"url": "https://ollama.com/library/phi3",
|
||
"description": "Phi-3 is a family of lightweight 3B (Mini) and 14B (Medium) state-of-the-art open models by Microsoft.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"14b",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"3.8b",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"medium",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"mini",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"14b-instruct",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-f16",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-f16",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q2_K",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q3_K_L",
|
||
"7.5 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q3_K_M",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q3_K_S",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q4_0",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q4_1",
|
||
"8.8 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q4_K_M",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q4_K_S",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q5_0",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q5_1",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q5_K_M",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q5_K_S",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"14b-medium-128k-instruct-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q2_K",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q3_K_L",
|
||
"7.5 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q3_K_M",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q3_K_S",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q4_0",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q4_1",
|
||
"8.8 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q4_K_M",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q4_K_S",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q5_0",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q5_1",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q5_K_M",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q5_K_S",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-medium-4k-instruct-q8_0",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"3.8b-instruct",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-f16",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-f16",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-fp16",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q2_K",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q3_K_L",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q3_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q3_K_S",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q4_0",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q4_1",
|
||
"2.4 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q4_K_M",
|
||
"2.4 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q4_K_S",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q5_0",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q5_1",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q5_K_M",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q5_K_S",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q6_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-128k-instruct-q8_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-fp16",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q2_K",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q3_K_L",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q3_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q3_K_S",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q4_0",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q4_1",
|
||
"2.4 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q4_K_M",
|
||
"2.4 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q4_K_S",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q5_0",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q5_1",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q5_K_M",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q5_K_S",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q6_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-4k-instruct-q8_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"3.8b-mini-instruct-4k-fp16",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"mini-128k",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"medium-128k",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"mini-4k",
|
||
"2.4 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Microsoft"
|
||
},
|
||
"mistral": {
|
||
"url": "https://ollama.com/library/mistral",
|
||
"description": "The 7B model released by Mistral AI, updated to version 0.3.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"text",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v0.1",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v0.2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v0.3",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.2-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q2_K",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v0.3-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-text",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-text-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-text-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q2_K",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-text-v0.2-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Mistral AI"
|
||
},
|
||
"mixtral": {
|
||
"url": "https://ollama.com/library/mixtral",
|
||
"description": "A set of Mixture of Experts (MoE) model with open weights by Mistral AI in 8x7b and 8x22b parameter sizes.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x22b",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"text",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"v0.1",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-fp16",
|
||
"281 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q2_K",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q3_K_L",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q3_K_M",
|
||
"68 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q3_K_S",
|
||
"62 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q4_0",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q4_1",
|
||
"88 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q4_K_M",
|
||
"86 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q4_K_S",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q5_0",
|
||
"97 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q5_1",
|
||
"106 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q5_K_M",
|
||
"100 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q5_K_S",
|
||
"97 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q6_K",
|
||
"116 GB"
|
||
],
|
||
[
|
||
"8x22b-instruct-v0.1-q8_0",
|
||
"149 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-fp16",
|
||
"93 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q2_K",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q3_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q3_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q4_0",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q4_1",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q4_K_M",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q4_K_S",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q5_0",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q5_1",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q5_K_M",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q5_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q6_K",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"8x7b-instruct-v0.1-q8_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"8x22b-text",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-fp16",
|
||
"281 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q2_K",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q3_K_L",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q3_K_M",
|
||
"68 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q3_K_S",
|
||
"61 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q4_0",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q4_1",
|
||
"88 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q4_K_M",
|
||
"86 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q4_K_S",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q5_0",
|
||
"97 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q5_1",
|
||
"106 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q5_K_M",
|
||
"100 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q5_K_S",
|
||
"97 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q6_K",
|
||
"116 GB"
|
||
],
|
||
[
|
||
"8x22b-text-v0.1-q8_0",
|
||
"149 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-fp16",
|
||
"93 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q2_K",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q3_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q3_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q4_0",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q4_1",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q4_K_M",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q4_K_S",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q5_0",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q5_1",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q5_K_M",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q5_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q6_K",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"8x7b-text-v0.1-q8_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"v0.1-instruct",
|
||
"80 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Mistral AI"
|
||
},
|
||
"codegemma": {
|
||
"url": "https://ollama.com/library/codegemma",
|
||
"description": "CodeGemma is a collection of powerful, lightweight models that can perform a variety of coding tasks like fill-in-the-middle code completion, code generation, natural language understanding, mathematical reasoning, and instruction following.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"code",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-code",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-code-fp16",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-code-q2_K",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-code-q3_K_L",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-code-q3_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-code-q3_K_S",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_1",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_K_M",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_0",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_1",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_K_M",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_K_S",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-code-q6_K",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"7b-code-q8_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-fp16",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q2_K",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q3_K_L",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_S",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q6_K",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_K_M",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q8_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_K_S",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-fp16",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_1",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_1",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_0",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q3_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_K_M",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q3_K_S",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q2_K",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_L",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_1",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_M",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_0",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_1",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_M",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_S",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q6_K",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q8_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b-code",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-fp16",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b-code-q2_K",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"2b-code-q3_K_L",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"2b-code-q3_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"2b-code-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"2b-code-q4_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-q4_1",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-code-q4_K_M",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-q4_K_S",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-q5_0",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q4_1",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-fp16",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"2b-code-q5_1",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q3_K_L",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q3_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"2b-code-q5_K_S",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-code-q8_0",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q4_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q2_K",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"2b-code-q6_K",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2b-code-q5_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q4_K_M",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q4_K_S",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q5_0",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q5_1",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q5_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q5_K_S",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q6_K",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2b-code-v1.1-q8_0",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"2b-v1.1",
|
||
"1.6 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Google DeepMind"
|
||
},
|
||
"command-r": {
|
||
"url": "https://ollama.com/library/command-r",
|
||
"description": "Command R is a Large Language Model optimized for conversational interaction and long context tasks.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"v0.1",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-fp16",
|
||
"70 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q3_K_L",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q3_K_M",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q3_K_S",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q4_0",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q4_K_M",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q5_K_M",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q6_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"35b-v0.1-q8_0",
|
||
"37 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Cohere"
|
||
},
|
||
"command-r-plus": {
|
||
"url": "https://ollama.com/library/command-r-plus",
|
||
"description": "Command R+ is a powerful, scalable large language model purpose-built to excel at real-world enterprise use cases.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"104b",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"104b-fp16",
|
||
"208 GB"
|
||
],
|
||
[
|
||
"104b-q2_K",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"104b-q4_0",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"104b-q8_0",
|
||
"110 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Cohere"
|
||
},
|
||
"llava": {
|
||
"url": "https://ollama.com/library/llava",
|
||
"description": "\ud83c\udf0b LLaVA is a novel end-to-end trained large multimodal model that combines a vision encoder and Vicuna for general-purpose visual and language understanding. Updated to version 1.6.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"34b",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"v1.6",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"34b-v1.6",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-fp16",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q3_K_L",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q3_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q3_K_S",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q4_0",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q5_1",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q5_K_M",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q6_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"34b-v1.6-q8_0",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-fp16",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q2_K",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q3_K_L",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q3_K_M",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q3_K_S",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_0",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_1",
|
||
"8.8 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_K_M",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_K_S",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_0",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_1",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_K_M",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_K_S",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-v1.6",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-fp16",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q2_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q3_K_L",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q3_K_M",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q3_K_S",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q4_0",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q4_1",
|
||
"8.8 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q4_K_M",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q4_K_S",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q5_0",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q5_1",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q5_K_M",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q5_K_S",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-v1.6-vicuna-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q2_K",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q3_K_L",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q3_K_S",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_0",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_1",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_K_M",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_0",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_1",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_K_M",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_K_S",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q6_K",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q8_0",
|
||
"7.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.6",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q2_K",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q3_K_L",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q3_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q3_K_S",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q4_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q4_1",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q4_K_M",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q4_K_S",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q5_K_M",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-mistral-q8_0",
|
||
"8.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q3_K_L",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q3_K_S",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q4_0",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q4_1",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q4_K_M",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q5_0",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q5_1",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q5_K_M",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q5_K_S",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q6_K",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.6-vicuna-q8_0",
|
||
"7.8 GB"
|
||
]
|
||
],
|
||
"image": true,
|
||
"author": "Haotian Liu"
|
||
},
|
||
"llama3": {
|
||
"url": "https://ollama.com/library/llama3",
|
||
"description": "Meta Llama 3: The most capable openly available LLM to date",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"8b",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"text",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"70b-instruct",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-instruct-fp16",
|
||
"141 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q2_K",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_L",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_M",
|
||
"34 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_S",
|
||
"31 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_0",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_1",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_K_M",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_K_S",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_0",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_1",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_K_M",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_K_S",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q6_K",
|
||
"58 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q8_0",
|
||
"75 GB"
|
||
],
|
||
[
|
||
"70b-text",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-text-fp16",
|
||
"141 GB"
|
||
],
|
||
[
|
||
"70b-text-q2_K",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"70b-text-q3_K_L",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"70b-text-q3_K_M",
|
||
"34 GB"
|
||
],
|
||
[
|
||
"70b-text-q3_K_S",
|
||
"31 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_0",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_1",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_K_M",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_K_S",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_0",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_1",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_K_M",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_K_S",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-text-q6_K",
|
||
"58 GB"
|
||
],
|
||
[
|
||
"70b-text-q8_0",
|
||
"75 GB"
|
||
],
|
||
[
|
||
"8b-instruct-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_M",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_S",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q8_0",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"8b-text",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-text-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-text-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"8b-text-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-text-q3_K_M",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"8b-text-q3_K_S",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"8b-text-q4_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-text-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-text-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-text-q4_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-text-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-text-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-text-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-text-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-text-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-text-q8_0",
|
||
"8.5 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Meta"
|
||
},
|
||
"gemma": {
|
||
"url": "https://ollama.com/library/gemma",
|
||
"description": "Gemma is a family of lightweight, state-of-the-art open models built by Google DeepMind. Updated to version 1.1",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"text",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"v1.1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-fp16",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q2_K",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q3_K_L",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q3_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q3_K_S",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_1",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_K_M",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q4_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_0",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_1",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_K_M",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q5_K_S",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q6_K",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_0",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q2_K",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-fp16",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_L",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-v1.1-q8_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_M",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_1",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_M",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_S",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_0",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_1",
|
||
"6.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_S",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q6_K",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q8_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b-text",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-text-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"7b-text-q2_K",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_L",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_M",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_0",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_1",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_M",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_S",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_0",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_1",
|
||
"6.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_K_S",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q6_K",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q8_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b-instruct",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-instruct-fp16",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q2_K",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q3_K_L",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q3_K_M",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q3_K_S",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q4_0",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q4_1",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q4_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q4_K_S",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q5_0",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q5_1",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q5_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q5_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q6_K",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"2b-instruct-q8_0",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q5_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q5_1",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q2_K",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q3_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q4_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q3_K_L",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q4_K_S",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-fp16",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q4_K_M",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q5_0",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q4_1",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q5_K_S",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q6_K",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2b-instruct-v1.1-q8_0",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"2b-text",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-text-fp16",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"2b-text-q2_K",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"2b-text-q3_K_L",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2b-text-q3_K_M",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"2b-text-q3_K_S",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"2b-text-q4_0",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-text-q4_1",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-text-q4_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2b-text-q4_K_S",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"2b-text-q5_0",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-text-q5_1",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2b-text-q5_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"2b-text-q5_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2b-text-q6_K",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"2b-text-q8_0",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"2b-v1.1",
|
||
"1.6 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Google DeepMind"
|
||
},
|
||
"qwen": {
|
||
"url": "https://ollama.com/library/qwen",
|
||
"description": "Qwen 1.5 is a series of large language models by Alibaba Cloud spanning from 0.5B to 110B parameters",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"110b",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"72b",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"32b",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"14b",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"4b",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"1.8b",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"0.5b",
|
||
"395 MB"
|
||
],
|
||
[
|
||
"110b-chat",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-fp16",
|
||
"222 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q2_K",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q3_K_L",
|
||
"58 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q3_K_M",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q3_K_S",
|
||
"48 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q4_0",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q4_1",
|
||
"70 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q4_K_M",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q4_K_S",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q5_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q5_1",
|
||
"84 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q5_K_M",
|
||
"79 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q5_K_S",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q6_K",
|
||
"91 GB"
|
||
],
|
||
[
|
||
"110b-chat-v1.5-q8_0",
|
||
"118 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-fp16",
|
||
"222 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q2_K",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q3_K_L",
|
||
"58 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q3_K_M",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q3_K_S",
|
||
"48 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q4_0",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q4_1",
|
||
"70 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q4_K_M",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q4_K_S",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q5_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q5_1",
|
||
"84 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q5_K_M",
|
||
"79 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q5_K_S",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q6_K",
|
||
"91 GB"
|
||
],
|
||
[
|
||
"110b-text-v1.5-q8_0",
|
||
"118 GB"
|
||
],
|
||
[
|
||
"72b-chat",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-fp16",
|
||
"145 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q2_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q3_K_L",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q3_K_M",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q3_K_S",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q4_0",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q4_1",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q4_K_M",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q4_K_S",
|
||
"42 GB"
|
||
],
|
||
[
|
||
"72b-chat-q4_K_M",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q6_K",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q5_K_S",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-chat-q4_0",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-chat-q3_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"72b-chat-q3_K_L",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"72b-chat-q3_K_M",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q5_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-chat-fp16",
|
||
"145 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q5_1",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"72b-chat-q2_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q8_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"72b-chat-q4_1",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"72b-chat-v1.5-q5_K_M",
|
||
"51 GB"
|
||
],
|
||
[
|
||
"72b-chat-q4_K_S",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-chat-q5_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-chat-q5_1",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"72b-chat-q5_K_M",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"72b-chat-q5_K_S",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-chat-q6_K",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"72b-chat-q8_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"72b-text",
|
||
"63 GB"
|
||
],
|
||
[
|
||
"72b-text-fp16",
|
||
"145 GB"
|
||
],
|
||
[
|
||
"72b-text-q2_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"72b-text-q3_K_L",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"72b-text-q3_K_M",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"72b-text-q3_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_0",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_1",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_K_M",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"72b-text-q4_K_S",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_1",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_K_M",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"72b-text-q5_K_S",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q5_1",
|
||
"54 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q4_K_M",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q5_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-text-q6_K",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q2_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q3_K_S",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q3_K_M",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q4_1",
|
||
"45 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q4_0",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q4_K_S",
|
||
"42 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-fp16",
|
||
"145 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q3_K_L",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"72b-text-q8_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q5_K_M",
|
||
"51 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q5_K_S",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q6_K",
|
||
"59 GB"
|
||
],
|
||
[
|
||
"72b-text-v1.5-q8_0",
|
||
"77 GB"
|
||
],
|
||
[
|
||
"32b-chat",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-fp16",
|
||
"65 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q2_K",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q3_K_L",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q4_0",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q4_1",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q5_0",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q5_1",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q5_K_M",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q5_K_S",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q6_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"32b-chat-v1.5-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"32b-text",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q2_K",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q3_K_L",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q4_0",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q4_1",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q5_0",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q5_1",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"32b-text-v1.5-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"14b-chat",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"14b-chat-fp16",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"14b-chat-q2_K",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"14b-chat-q3_K_L",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"14b-chat-q3_K_M",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"14b-chat-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"14b-chat-q4_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"14b-chat-q4_1",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"14b-chat-q4_K_M",
|
||
"9.4 GB"
|
||
],
|
||
[
|
||
"14b-chat-q4_K_S",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"14b-chat-q5_0",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"14b-chat-q5_1",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q2_K",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"14b-chat-q8_0",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"14b-chat-q5_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-fp16",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"14b-chat-q5_K_S",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-chat-q6_K",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q5_K_S",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q4_1",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q5_1",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q5_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q4_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q5_0",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q3_K_L",
|
||
"7.8 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q3_K_M",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q4_K_S",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q4_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q6_K",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"14b-chat-v1.5-q8_0",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"14b-text",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"14b-text-fp16",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"14b-text-q2_K",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"14b-text-q3_K_L",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"14b-text-q3_K_M",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"14b-text-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"14b-text-q4_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"14b-text-q4_1",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"14b-text-q4_K_M",
|
||
"9.4 GB"
|
||
],
|
||
[
|
||
"14b-text-q4_K_S",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"14b-text-q5_0",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"14b-text-q5_1",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-text-q5_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-text-q5_K_S",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-text-q6_K",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q5_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q4_K_S",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q4_1",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q5_1",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"14b-text-q8_0",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-fp16",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q3_K_L",
|
||
"7.8 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q4_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q2_K",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q5_0",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q3_K_M",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q4_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q5_K_S",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q6_K",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"14b-text-v1.5-q8_0",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-chat",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-chat-q2_K",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_S",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_0",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_0",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_1",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q3_K_L",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-q8_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_S",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-q6_K",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_1",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q3_K_S",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_0",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_0",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_K_M",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_K_S",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q6_K",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q8_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"7b-text",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q3_K_L",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q3_K_S",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q4_0",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q4_1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q4_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q5_0",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q5_1",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q5_K_M",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q5_K_S",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q6_K",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-text-v1.5-q8_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"4b-chat",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"4b-text",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"1.8b-chat",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-fp16",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q2_K",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q3_K_L",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q3_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q3_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q4_0",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q4_1",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q4_K_M",
|
||
"2.5 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q4_K_S",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q5_0",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q5_1",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q5_K_M",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q5_K_S",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q6_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"4b-chat-v1.5-q8_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-fp16",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q2_K",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q3_K_L",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q3_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q3_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q4_0",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q4_1",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q4_K_M",
|
||
"2.5 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q4_K_S",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q5_0",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q5_1",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q5_K_M",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q5_K_S",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q6_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"4b-text-v1.5-q8_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-fp16",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q2_K",
|
||
"863 MB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q3_K_L",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q3_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q3_K_S",
|
||
"970 MB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q4_0",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q4_1",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q4_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q4_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q5_0",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q5_1",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q5_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q5_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q6_K",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q6_K",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q2_K",
|
||
"853 MB"
|
||
],
|
||
[
|
||
"1.8b-chat-v1.5-q8_0",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q3_K_L",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q5_0",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q4_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q5_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q4_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q5_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-fp16",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q4_1",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q5_1",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q3_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q4_0",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-chat-q3_K_S",
|
||
"970 MB"
|
||
],
|
||
[
|
||
"1.8b-chat-q8_0",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"1.8b-text",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-fp16",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q2_K",
|
||
"863 MB"
|
||
],
|
||
[
|
||
"1.8b-text-q5_1",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q4_0",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q8_0",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q4_0",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q6_K",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q5_1",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q4_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q3_K_S",
|
||
"970 MB"
|
||
],
|
||
[
|
||
"1.8b-text-q4_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q2_K",
|
||
"853 MB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q3_K_L",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q4_1",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q3_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q4_1",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q4_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q3_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q3_K_S",
|
||
"970 MB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q4_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.8b-text-fp16",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q5_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q5_0",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q5_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q3_K_L",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.8b-text-v1.5-q5_0",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q5_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q5_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q6_K",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"1.8b-text-q8_0",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"0.5b-chat",
|
||
"395 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-fp16",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q2_K",
|
||
"298 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q3_K_L",
|
||
"364 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q3_K_M",
|
||
"350 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q3_K_S",
|
||
"333 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q4_0",
|
||
"395 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q4_1",
|
||
"424 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q4_K_M",
|
||
"407 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q4_K_S",
|
||
"397 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q5_0",
|
||
"453 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q5_1",
|
||
"482 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q5_K_M",
|
||
"459 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q5_K_S",
|
||
"453 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q6_K",
|
||
"515 MB"
|
||
],
|
||
[
|
||
"0.5b-chat-v1.5-q8_0",
|
||
"665 MB"
|
||
],
|
||
[
|
||
"0.5b-text",
|
||
"395 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-fp16",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q2_K",
|
||
"298 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q3_K_L",
|
||
"364 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q3_K_M",
|
||
"350 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q3_K_S",
|
||
"333 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q4_0",
|
||
"395 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q4_1",
|
||
"424 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q4_K_M",
|
||
"407 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q4_K_S",
|
||
"397 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q5_0",
|
||
"453 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q5_1",
|
||
"482 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q5_K_M",
|
||
"459 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q5_K_S",
|
||
"453 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q6_K",
|
||
"515 MB"
|
||
],
|
||
[
|
||
"0.5b-text-v1.5-q8_0",
|
||
"665 MB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Alibaba"
|
||
},
|
||
"llama2": {
|
||
"url": "https://ollama.com/library/llama2",
|
||
"description": "Llama 2 is a collection of foundation language models ranging from 7B to 70B parameters.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"chat",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"text",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"70b-chat",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-chat-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-chat-q2_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"70b-chat-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-chat-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-chat-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-chat-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-chat-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"70b-text",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-text-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-text-q2_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"70b-text-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-text-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-text-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-text-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-text-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-text-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-text-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"13b-chat",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-chat-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-chat-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-chat-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-chat-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-chat-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-text",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-text-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-text-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-text-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-text-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-text-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-text-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-text-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-text-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-text-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-text-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-text-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-text-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-text-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-text-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-text-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-chat",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-chat-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-text",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-text-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-text-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-text-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-text-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-text-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-text-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-text-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Meta"
|
||
},
|
||
"codellama": {
|
||
"url": "https://ollama.com/library/codellama",
|
||
"description": "A large language model that can use text prompts to generate and discuss code.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"34b",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"code",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"python",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"70b-code",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-code-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-code-q2_K",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"70b-code-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-code-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-code-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-code-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-code-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-code-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-code-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-code-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-code-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-code-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-code-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-code-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-code-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"70b-instruct",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-instruct-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q2_K",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-instruct-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"70b-python",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-python-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-python-q2_K",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"70b-python-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-python-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-python-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-python-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-python-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-python-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-python-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-python-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-python-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-python-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-python-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-python-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-python-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"34b-code",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-code-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"34b-code-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-code-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"34b-code-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-code-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-code-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-code-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-code-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-code-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-code-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-code-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-code-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-code-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-code-q8_0",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"34b-instruct",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-instruct-fp16",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q8_0",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"34b-python",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-python-fp16",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"34b-python-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"34b-python-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-python-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"34b-python-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-python-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-python-q8_0",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"13b-code",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-code-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-code-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-code-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-code-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-code-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-code-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-code-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-code-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-code-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-code-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-code-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-code-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-code-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-code-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-code-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-instruct",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-instruct-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-instruct-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-python",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-python-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-python-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-python-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-python-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-python-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-python-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-python-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-code",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-code-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-code-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-code-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-code-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-code-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-code-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-code-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-code-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-code-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-instruct-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-python",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-python-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-python-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-python-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-python-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-python-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-python-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-python-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Meta"
|
||
},
|
||
"dolphin-mixtral": {
|
||
"url": "https://ollama.com/library/dolphin-mixtral",
|
||
"description": "Uncensored, 8x7b and 8x22b fine-tuned models based on the Mixtral mixture of experts models that excels at coding tasks. Created by Eric Hartford.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x22b",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x7b",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"v2.5",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"v2.6",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"v2.6.1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"v2.7",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-fp16",
|
||
"93 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q2_K",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q3_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q3_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q4_0",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q4_1",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q4_K_M",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q4_K_S",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q5_0",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q5_1",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q5_K_M",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q5_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q6_K",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.5-q8_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-fp16",
|
||
"93 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q2_K",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q3_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q3_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q4_0",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q4_1",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q4_K_M",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q4_K_S",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q5_0",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q5_1",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q5_K_M",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q5_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q6_K",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6-q8_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-fp16",
|
||
"93 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q2_K",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q3_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q3_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q4_0",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q4_1",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q4_K_M",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q4_K_S",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q5_0",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q5_1",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q5_K_M",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q5_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q6_K",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.6.1-q8_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-fp16",
|
||
"93 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q2_K",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q3_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q3_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q4_0",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q4_1",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q4_K_M",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q4_K_S",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q5_0",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q5_1",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q5_K_M",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q5_K_S",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q6_K",
|
||
"38 GB"
|
||
],
|
||
[
|
||
"8x7b-v2.7-q8_0",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-fp16",
|
||
"281 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q2_K",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q3_K_L",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q3_K_M",
|
||
"68 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q3_K_S",
|
||
"61 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q4_0",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q4_1",
|
||
"88 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q4_K_M",
|
||
"86 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q4_K_S",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q5_0",
|
||
"97 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q5_1",
|
||
"106 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q5_K_M",
|
||
"100 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q5_K_S",
|
||
"97 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q6_K",
|
||
"116 GB"
|
||
],
|
||
[
|
||
"8x22b-v2.9-q8_0",
|
||
"149 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Eric Hartford"
|
||
},
|
||
"nomic-embed-text": {
|
||
"url": "https://ollama.com/library/nomic-embed-text",
|
||
"description": "A high-performing open embedding model with a large token context window.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"274 MB"
|
||
],
|
||
[
|
||
"v1.5",
|
||
"274 MB"
|
||
],
|
||
[
|
||
"137m-v1.5-fp16",
|
||
"274 MB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Nomic AI"
|
||
},
|
||
"llama2-uncensored": {
|
||
"url": "https://ollama.com/library/llama2-uncensored",
|
||
"description": "Uncensored Llama 2 model by George Sung and Jarrad Hope.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"70b-chat",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-chat-q2_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"70b-chat-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-chat-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-chat-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-chat-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-chat-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-chat-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-chat-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"7b-chat",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-chat-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "George Sung, Jarrad Hope"
|
||
},
|
||
"phi": {
|
||
"url": "https://ollama.com/library/phi",
|
||
"description": "Phi-2: a 2.7B language model by Microsoft Research that demonstrates outstanding reasoning and language understanding capabilities.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2.7b",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"chat",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-fp16",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q2_K",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q3_K_L",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q3_K_M",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q4_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q4_1",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q4_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q4_K_S",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q5_0",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q5_1",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q5_K_M",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q5_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q6_K",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"2.7b-chat-v2-q8_0",
|
||
"3.0 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Microsoft"
|
||
},
|
||
"deepseek-coder": {
|
||
"url": "https://ollama.com/library/deepseek-coder",
|
||
"description": "DeepSeek Coder is a capable coding model trained on two trillion code and natural language tokens.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"33b",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"6.7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"1.3b",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"base",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"33b-base",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-base-fp16",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"33b-base-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-base-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"33b-base-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"33b-base-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-base-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-base-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"33b-base-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"33b-base-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-base-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-base-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"33b-base-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"33b-base-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-base-q6_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"33b-base-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"33b-instruct",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-instruct-fp16",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q6_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"33b-instruct-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"6.7b-base",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6.7b-base-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q3_K_S",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"6.7b-base-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q3_K_S",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"6.7b-instruct-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"1.3b-base",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"1.3b-base-fp16",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"1.3b-base-q2_K",
|
||
"632 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q3_K_L",
|
||
"745 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q3_K_M",
|
||
"705 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q3_K_S",
|
||
"659 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q4_0",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q4_1",
|
||
"856 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q4_K_M",
|
||
"874 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q4_K_S",
|
||
"815 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q5_0",
|
||
"936 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q5_1",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.3b-base-q5_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.3b-base-q5_K_S",
|
||
"953 MB"
|
||
],
|
||
[
|
||
"1.3b-base-q6_K",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.3b-base-q8_0",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.3b-instruct",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-fp16",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q2_K",
|
||
"632 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q3_K_L",
|
||
"745 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q3_K_M",
|
||
"705 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q3_K_S",
|
||
"659 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q4_0",
|
||
"776 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q4_1",
|
||
"856 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q4_K_M",
|
||
"874 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q4_K_S",
|
||
"815 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q5_0",
|
||
"936 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q5_1",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q5_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q5_K_S",
|
||
"953 MB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q6_K",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.3b-instruct-q8_0",
|
||
"1.4 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "DeepSeek Team"
|
||
},
|
||
"dolphin-mistral": {
|
||
"url": "https://ollama.com/library/dolphin-mistral",
|
||
"description": "The uncensored Dolphin model based on Mistral that excels at coding tasks. Updated to version 2.8.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2.1",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2.2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2.2.1",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2.6",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2.8",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.1",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2.1-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2.2-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2.2.1-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.6-dpo-laser-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.8",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q2_K",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v2.8-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Eric Hartford"
|
||
},
|
||
"orca-mini": {
|
||
"url": "https://ollama.com/library/orca-mini",
|
||
"description": "A general-purpose model ranging from 3 billion parameters to 70 billion, suitable for entry-level hardware.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"3b",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"70b-v3",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-v3-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-v3-q2_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"70b-v3-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-v3-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-v3-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-v3-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-v3-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-v3-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-v3-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-v3-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-v3-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-v3-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-v3-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-v3-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-v3-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"13b-v2-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-v2-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-v2-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-v2-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-v2-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-v2-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v2-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-v2-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-v2-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v2-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v2-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-v2-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-v2-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v2-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-v2-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-v3",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v3-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-v3-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-v3-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-v3-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-v3-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-v3-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v3-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-v3-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-v3-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v3-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v3-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-v3-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-v3-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v3-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-v3-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v2-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-v2-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-v2-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-v2-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-v2-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-v2-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v2-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-v2-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-v3",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-v3-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-v3-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-v3-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-v3-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-v3-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-v3-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-v3-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v3-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-v3-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v3-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-v3-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"3b-fp16",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"3b-q4_0",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3b-q4_1",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3b-q5_0",
|
||
"2.4 GB"
|
||
],
|
||
[
|
||
"3b-q5_1",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"3b-q8_0",
|
||
"3.6 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Orca Mini Team"
|
||
},
|
||
"dolphin-llama3": {
|
||
"url": "https://ollama.com/library/dolphin-llama3",
|
||
"description": "Dolphin 2.9 is a new model with 8B and 70B sizes by Eric Hartford based on Llama 3 that has a variety of instruction, conversational, and coding skills.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"8b",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"256k",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"v2.9",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"70b-v2.9",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-fp16",
|
||
"141 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q2_K",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q3_K_L",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q3_K_M",
|
||
"34 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q3_K_S",
|
||
"31 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q4_0",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q4_1",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q4_K_M",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q4_K_S",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q5_0",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q5_1",
|
||
"53 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q5_K_M",
|
||
"50 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q5_K_S",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q6_K",
|
||
"58 GB"
|
||
],
|
||
[
|
||
"70b-v2.9-q8_0",
|
||
"75 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-256k",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q3_K_M",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q3_K_S",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q4_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q4_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-256k-v2.9-q8_0",
|
||
"8.5 GB"
|
||
],
|
||
[
|
||
"8b-v2.9",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q3_K_M",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q3_K_S",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q4_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q4_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-v2.9-q8_0",
|
||
"8.5 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Eric Hartford"
|
||
},
|
||
"mxbai-embed-large": {
|
||
"url": "https://ollama.com/library/mxbai-embed-large",
|
||
"description": "State-of-the-art large embedding model from mixedbread.ai",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"670 MB"
|
||
],
|
||
[
|
||
"335m",
|
||
"670 MB"
|
||
],
|
||
[
|
||
"v1",
|
||
"670 MB"
|
||
],
|
||
[
|
||
"335m-v1-fp16",
|
||
"670 MB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Mixedbread.ai"
|
||
},
|
||
"starcoder2": {
|
||
"url": "https://ollama.com/library/starcoder2",
|
||
"description": "StarCoder2 is the next generation of transparently trained open code LLMs that comes in three sizes: 3B, 7B and 15B parameters.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"15b",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"3b",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-instruct",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-fp16",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q2_K",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q3_K_L",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q3_K_M",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q3_K_S",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q4_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q4_1",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q4_K_M",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q4_K_S",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q5_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q6_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"15b-instruct-v0.1-q8_0",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"15b-instruct-q4_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-fp16",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"15b-q2_K",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"15b-q3_K_L",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-q3_K_M",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"15b-q3_K_S",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"15b-q4_0",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-q4_1",
|
||
"10 GB"
|
||
],
|
||
[
|
||
"15b-q4_K_M",
|
||
"9.9 GB"
|
||
],
|
||
[
|
||
"15b-q4_K_S",
|
||
"9.3 GB"
|
||
],
|
||
[
|
||
"15b-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-q5_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-q6_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"15b-q8_0",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"3b-fp16",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"3b-q2_K",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"3b-q3_K_L",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3b-q3_K_M",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"3b-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"3b-q4_0",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3b-q4_1",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"3b-q4_K_M",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"3b-q4_K_S",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3b-q5_0",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"3b-q5_1",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"3b-q5_K_M",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3b-q5_K_S",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"3b-q6_K",
|
||
"2.5 GB"
|
||
],
|
||
[
|
||
"3b-q8_0",
|
||
"3.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "BigCode"
|
||
},
|
||
"mistral-openorca": {
|
||
"url": "https://ollama.com/library/mistral-openorca",
|
||
"description": "Mistral OpenOrca is a 7 billion parameter model, fine-tuned on top of the Mistral 7B model using the OpenOrca dataset.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Open Orca"
|
||
},
|
||
"yi": {
|
||
"url": "https://ollama.com/library/yi",
|
||
"description": "Yi 1.5 is a high-performing, bilingual language model.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"34b",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"9b",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"6b",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"v1.5",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"34b-chat",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-fp16",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q2_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q3_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-chat-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-chat-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-chat-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-chat-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-chat-q3_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"34b-chat-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-chat-v1.5-q8_0",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"34b-chat-fp16",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"34b-chat-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-chat-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-chat-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"34b-chat-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-chat-q2_K",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-chat-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-chat-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"34b-chat-q8_0",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"34b-v1.5",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-fp16",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q2_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q3_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-v1.5-q8_0",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"9b-chat",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"34b-q2_K",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-q3_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"34b-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"34b-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"34b-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-fp16",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q2_K",
|
||
"3.4 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q3_K_L",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q3_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q3_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q4_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q4_1",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q4_K_M",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q4_K_S",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q5_0",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q5_1",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q5_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q5_K_S",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q6_K",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"9b-chat-v1.5-q8_0",
|
||
"9.4 GB"
|
||
],
|
||
[
|
||
"9b-v1.5",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-fp16",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q2_K",
|
||
"3.4 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q3_K_L",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q3_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q3_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q4_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q4_1",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q4_K_M",
|
||
"5.3 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q4_K_S",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q5_0",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q5_1",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q5_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q5_K_S",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q6_K",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"9b-v1.5-q8_0",
|
||
"9.4 GB"
|
||
],
|
||
[
|
||
"6b-200k",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-200k-fp16",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"6b-200k-q2_K",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"6b-200k-q3_K_L",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"6b-200k-q3_K_M",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6b-200k-q3_K_S",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"6b-200k-q4_0",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-200k-q4_1",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6b-200k-q4_K_M",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"6b-200k-q4_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-200k-q5_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-200k-q5_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"6b-200k-q5_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"6b-200k-q5_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-200k-q6_K",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"6b-200k-q8_0",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"6b-chat",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-chat-fp16",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"6b-chat-q2_K",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"6b-chat-q3_K_L",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"6b-chat-q3_K_M",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6b-chat-q3_K_S",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"6b-chat-q4_0",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-chat-q4_1",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6b-chat-q4_K_M",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"6b-chat-q4_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-chat-q5_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-chat-q5_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"6b-chat-q5_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"6b-chat-q5_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-chat-q6_K",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q5_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q2_K",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q4_K_M",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q4_1",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q3_K_L",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q4_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-chat-q8_0",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q3_K_S",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q3_K_M",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-fp16",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q4_0",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q5_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q5_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q5_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q6_K",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"6b-chat-v1.5-q8_0",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"6b-v1.5",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-fp16",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q2_K",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q3_K_L",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q3_K_M",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q3_K_S",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q4_0",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q4_1",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q4_K_M",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q4_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q5_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q5_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q5_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q5_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q6_K",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"6b-v1.5-q8_0",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"6b-fp16",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"6b-q2_K",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"6b-q3_K_L",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"6b-q3_K_M",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"6b-q3_K_S",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"6b-q4_0",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-q4_1",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"6b-q4_K_M",
|
||
"3.7 GB"
|
||
],
|
||
[
|
||
"6b-q4_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"6b-q5_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-q5_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"6b-q5_K_M",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"6b-q5_K_S",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"6b-q6_K",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"6b-q8_0",
|
||
"6.4 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "01.AI"
|
||
},
|
||
"zephyr": {
|
||
"url": "https://ollama.com/library/zephyr",
|
||
"description": "Zephyr is a series of fine-tuned versions of the Mistral and Mixtral models that are trained to act as helpful assistants.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"141b",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"141b-v0.1",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"141b-v0.1-fp16",
|
||
"281 GB"
|
||
],
|
||
[
|
||
"141b-v0.1-q2_K",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"141b-v0.1-q4_0",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"141b-v0.1-q8_0",
|
||
"149 GB"
|
||
],
|
||
[
|
||
"7b-alpha",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-alpha-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-alpha-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-beta",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-beta-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-beta-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-beta-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-beta-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-beta-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-beta-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-beta-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-beta-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-beta-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-beta-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-beta-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-beta-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-beta-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-beta-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-beta-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Hugging Face H4"
|
||
},
|
||
"llama2-chinese": {
|
||
"url": "https://ollama.com/library/llama2-chinese",
|
||
"description": "Llama 2 based model fine tuned to improve Chinese dialogue ability.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"13b-chat",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-chat-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-chat-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-chat-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-chat-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-chat-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-chat-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-chat-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-chat",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-chat-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-chat-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Meta"
|
||
},
|
||
"llava-llama3": {
|
||
"url": "https://ollama.com/library/llava-llama3",
|
||
"description": "A LLaVA model fine-tuned from Llama 3 Instruct with better scores in several benchmarks.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"8b",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"8b-v1.1-fp16",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"8b-v1.1-q4_0",
|
||
"5.5 GB"
|
||
]
|
||
],
|
||
"image": true,
|
||
"author": "Xtuner"
|
||
},
|
||
"vicuna": {
|
||
"url": "https://ollama.com/library/vicuna",
|
||
"description": "General use chat model based on Llama and Llama 2 with 2K to 16K context sizes.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"33b",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"13b-16k",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"33b-fp16",
|
||
"65 GB"
|
||
],
|
||
[
|
||
"33b-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-q3_K_L",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"33b-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"33b-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-q4_0",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"33b-q4_1",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"33b-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"33b-q4_K_S",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"33b-q5_0",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"33b-q5_1",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"33b-q5_K_M",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-q5_K_S",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"33b-q6_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"33b-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-16k-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-v1.5-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-16k",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"13b-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q8_0",
|
||
"7.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.5-16k-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "lmsys.org"
|
||
},
|
||
"nous-hermes2": {
|
||
"url": "https://ollama.com/library/nous-hermes2",
|
||
"description": "The powerful family of models by Nous Research that excels at scientific discussion and coding tasks.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"34b",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"10.7b",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"34b-yi-fp16",
|
||
"69 GB"
|
||
],
|
||
[
|
||
"34b-yi-q2_K",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-yi-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-yi-q3_K_M",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"34b-yi-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-yi-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-yi-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"34b-yi-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-yi-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-yi-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-yi-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"34b-yi-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-yi-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-yi-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-yi-q8_0",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-fp16",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q2_K",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q3_K_L",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q3_K_M",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q3_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q4_0",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q4_1",
|
||
"6.7 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q4_K_M",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q4_K_S",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q5_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q5_1",
|
||
"8.1 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q5_K_M",
|
||
"7.6 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q5_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q6_K",
|
||
"8.8 GB"
|
||
],
|
||
[
|
||
"10.7b-solar-q8_0",
|
||
"11 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Nous Research"
|
||
},
|
||
"tinyllama": {
|
||
"url": "https://ollama.com/library/tinyllama",
|
||
"description": "The TinyLlama project is an open endeavor to train a compact 1.1B Llama model on 3 trillion tokens.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"1.1b",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"chat",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"v0.6",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"v1",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"1.1b-chat",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-fp16",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q2_K",
|
||
"483 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q3_K_L",
|
||
"593 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q3_K_M",
|
||
"551 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q3_K_S",
|
||
"500 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q4_0",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q4_1",
|
||
"702 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q4_K_M",
|
||
"669 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q4_K_S",
|
||
"644 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q5_0",
|
||
"767 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q5_1",
|
||
"832 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q5_K_M",
|
||
"783 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q5_K_S",
|
||
"767 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q6_K",
|
||
"904 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v0.6-q8_0",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-fp16",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q2_K",
|
||
"483 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q3_K_L",
|
||
"593 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q3_K_M",
|
||
"551 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q3_K_S",
|
||
"500 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q4_0",
|
||
"638 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q4_1",
|
||
"702 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q4_K_M",
|
||
"669 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q4_K_S",
|
||
"644 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q5_0",
|
||
"767 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q5_1",
|
||
"832 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q5_K_M",
|
||
"783 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q5_K_S",
|
||
"767 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q6_K",
|
||
"904 MB"
|
||
],
|
||
[
|
||
"1.1b-chat-v1-q8_0",
|
||
"1.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "TinyLlama Team"
|
||
},
|
||
"wizard-vicuna-uncensored": {
|
||
"url": "https://ollama.com/library/wizard-vicuna-uncensored",
|
||
"description": "Wizard Vicuna Uncensored is a 7B, 13B, and 30B parameter model based on Llama 2 uncensored by Eric Hartford.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"30b",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"30b-fp16",
|
||
"65 GB"
|
||
],
|
||
[
|
||
"30b-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"30b-q3_K_L",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"30b-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"30b-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"30b-q4_0",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"30b-q4_1",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"30b-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"30b-q4_K_S",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"30b-q5_0",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"30b-q5_1",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"30b-q5_K_M",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"30b-q5_K_S",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"30b-q6_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"30b-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"13b-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Eric Hartford"
|
||
},
|
||
"codestral": {
|
||
"url": "https://ollama.com/library/codestral",
|
||
"description": "Codestral is Mistral AI\u2019s first-ever code model designed for code generation tasks.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"22b",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"v0.1",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-f16",
|
||
"44 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q2_K",
|
||
"8.3 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q3_K_L",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q3_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q3_K_S",
|
||
"9.6 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q4_0",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q4_1",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q4_K_M",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q4_K_S",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q5_0",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q5_1",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q5_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q5_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q6_K",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"22b-v0.1-q8_0",
|
||
"24 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Mistral AI"
|
||
},
|
||
"starcoder": {
|
||
"url": "https://ollama.com/library/starcoder",
|
||
"description": "StarCoder is a code generation model trained on 80+ programming languages.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"15b",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"3b",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"1b",
|
||
"726 MB"
|
||
],
|
||
[
|
||
"15b-base",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-base-fp16",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"15b-base-q2_K",
|
||
"6.7 GB"
|
||
],
|
||
[
|
||
"15b-base-q3_K_L",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-base-q3_K_M",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"15b-base-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"15b-base-q4_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-base-q4_1",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"15b-base-q4_K_M",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"15b-base-q4_K_S",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-base-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-base-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-base-q5_K_M",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-base-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-base-q6_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"15b-base-q8_0",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"15b-plus",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-plus-fp16",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"15b-plus-q2_K",
|
||
"6.7 GB"
|
||
],
|
||
[
|
||
"15b-plus-q3_K_L",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-plus-q3_K_M",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"15b-plus-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"15b-plus-q4_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-plus-q4_1",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"15b-plus-q4_K_M",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"15b-plus-q4_K_S",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-plus-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-plus-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-plus-q5_K_M",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-plus-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-plus-q6_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"15b-plus-q8_0",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-base",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"3b-base",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"1b-base",
|
||
"726 MB"
|
||
],
|
||
[
|
||
"15b-fp16",
|
||
"32 GB"
|
||
],
|
||
[
|
||
"15b-q2_K",
|
||
"6.7 GB"
|
||
],
|
||
[
|
||
"15b-q3_K_L",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-q3_K_M",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"15b-q3_K_S",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"15b-q4_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"15b-q4_1",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"15b-q4_K_M",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"15b-q4_K_S",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"15b-q5_0",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-q5_1",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-q5_K_M",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"15b-q5_K_S",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"15b-q6_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"15b-q8_0",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"7b-base-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-base-q2_K",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-base-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"7b-base-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-base-q3_K_S",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-base-q4_0",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"7b-base-q4_1",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-base-q4_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-base-q4_K_S",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"7b-base-q5_0",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-base-q5_1",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"7b-base-q5_K_M",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-base-q5_K_S",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"7b-base-q6_K",
|
||
"6.2 GB"
|
||
],
|
||
[
|
||
"7b-base-q8_0",
|
||
"8.0 GB"
|
||
],
|
||
[
|
||
"3b-base-fp16",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"3b-base-q2_K",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"3b-base-q3_K_L",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"3b-base-q3_K_M",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3b-base-q3_K_S",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"3b-base-q4_0",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"3b-base-q4_1",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3b-base-q4_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3b-base-q4_K_S",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"3b-base-q5_0",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3b-base-q5_1",
|
||
"2.4 GB"
|
||
],
|
||
[
|
||
"3b-base-q5_K_M",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"3b-base-q5_K_S",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"3b-base-q6_K",
|
||
"2.6 GB"
|
||
],
|
||
[
|
||
"3b-base-q8_0",
|
||
"3.4 GB"
|
||
],
|
||
[
|
||
"1b-base-fp16",
|
||
"2.5 GB"
|
||
],
|
||
[
|
||
"1b-base-q2_K",
|
||
"552 MB"
|
||
],
|
||
[
|
||
"1b-base-q3_K_L",
|
||
"720 MB"
|
||
],
|
||
[
|
||
"1b-base-q3_K_M",
|
||
"661 MB"
|
||
],
|
||
[
|
||
"1b-base-q3_K_S",
|
||
"575 MB"
|
||
],
|
||
[
|
||
"1b-base-q4_0",
|
||
"726 MB"
|
||
],
|
||
[
|
||
"1b-base-q4_1",
|
||
"797 MB"
|
||
],
|
||
[
|
||
"1b-base-q4_K_M",
|
||
"792 MB"
|
||
],
|
||
[
|
||
"1b-base-q4_K_S",
|
||
"734 MB"
|
||
],
|
||
[
|
||
"1b-base-q5_0",
|
||
"868 MB"
|
||
],
|
||
[
|
||
"1b-base-q5_1",
|
||
"939 MB"
|
||
],
|
||
[
|
||
"1b-base-q5_K_M",
|
||
"910 MB"
|
||
],
|
||
[
|
||
"1b-base-q5_K_S",
|
||
"868 MB"
|
||
],
|
||
[
|
||
"1b-base-q6_K",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1b-base-q8_0",
|
||
"1.3 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "BigCode"
|
||
},
|
||
"wizardlm2": {
|
||
"url": "https://ollama.com/library/wizardlm2",
|
||
"description": "State of the art large language model from Microsoft AI with improved performance on complex chat, multilingual, reasoning and agent use cases.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"8x22b",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"8x22b-fp16",
|
||
"281 GB"
|
||
],
|
||
[
|
||
"8x22b-q2_K",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"8x22b-q4_0",
|
||
"80 GB"
|
||
],
|
||
[
|
||
"8x22b-q8_0",
|
||
"149 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"2.7 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Microsoft"
|
||
},
|
||
"openchat": {
|
||
"url": "https://ollama.com/library/openchat",
|
||
"description": "A family of open-source models trained on a wide variety of data, surpassing ChatGPT on various benchmarks. Updated to version 3.5-0106.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-0106-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v3.5-1210-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "OpenChat Team"
|
||
},
|
||
"aya": {
|
||
"url": "https://ollama.com/library/aya",
|
||
"description": "Aya 23, released by Cohere, is a new family of state-of-the-art, multilingual models that support 23 languages.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"35b",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"8b",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"35b-23",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b-23-f16",
|
||
"70 GB"
|
||
],
|
||
[
|
||
"35b-23-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"35b-23-q3_K_L",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"35b-23-q3_K_M",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"35b-23-q3_K_S",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"35b-23-q4_0",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b-23-q4_1",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"35b-23-q4_K_M",
|
||
"22 GB"
|
||
],
|
||
[
|
||
"35b-23-q4_K_S",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"35b-23-q5_0",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"35b-23-q5_1",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"35b-23-q5_K_M",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"35b-23-q5_K_S",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"35b-23-q6_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"35b-23-q8_0",
|
||
"37 GB"
|
||
],
|
||
[
|
||
"8b-23-f16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-23",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"8b-23-q2_K",
|
||
"3.4 GB"
|
||
],
|
||
[
|
||
"8b-23-q3_K_L",
|
||
"4.5 GB"
|
||
],
|
||
[
|
||
"8b-23-q3_K_M",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"8b-23-q3_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"8b-23-q4_0",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"8b-23-q4_1",
|
||
"5.2 GB"
|
||
],
|
||
[
|
||
"8b-23-q4_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-23-q4_K_S",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"8b-23-q5_0",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-23-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-23-q5_K_M",
|
||
"5.8 GB"
|
||
],
|
||
[
|
||
"8b-23-q5_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-23-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-23-q8_0",
|
||
"8.5 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Cohere"
|
||
},
|
||
"tinydolphin": {
|
||
"url": "https://ollama.com/library/tinydolphin",
|
||
"description": "An experimental 1.1B parameter model trained on the new Dolphin 2.8 dataset by Eric Hartford and based on TinyLlama.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"637 MB"
|
||
],
|
||
[
|
||
"1.1b",
|
||
"637 MB"
|
||
],
|
||
[
|
||
"v2.8",
|
||
"637 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-fp16",
|
||
"2.2 GB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q2_K",
|
||
"432 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q3_K_L",
|
||
"592 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q3_K_M",
|
||
"548 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q3_K_S",
|
||
"499 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q4_0",
|
||
"637 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q4_1",
|
||
"701 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q4_K_M",
|
||
"668 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q4_K_S",
|
||
"640 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q5_0",
|
||
"766 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q5_1",
|
||
"831 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q5_K_M",
|
||
"782 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q5_K_S",
|
||
"766 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q6_K",
|
||
"903 MB"
|
||
],
|
||
[
|
||
"1.1b-v2.8-q8_0",
|
||
"1.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Eric Hartford"
|
||
},
|
||
"openhermes": {
|
||
"url": "https://ollama.com/library/openhermes",
|
||
"description": "OpenHermes 2.5 is a 7B model fine-tuned by Teknium on Mistral with fully open datasets.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2.5",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"v2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-mistral-v2.5-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v2.5",
|
||
"4.1 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Teknium"
|
||
},
|
||
"wizardcoder": {
|
||
"url": "https://ollama.com/library/wizardcoder",
|
||
"description": "State-of-the-art code generation model",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"33b",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"python",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"34b-python",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-python-fp16",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"34b-python-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"34b-python-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-python-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"34b-python-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-python-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"34b-python-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-python-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-python-q8_0",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"33b-v1.1",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-fp16",
|
||
"67 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q2_K",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q3_K_L",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q3_K_M",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q3_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q4_K_M",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q5_K_M",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q6_K",
|
||
"27 GB"
|
||
],
|
||
[
|
||
"33b-v1.1-q8_0",
|
||
"35 GB"
|
||
],
|
||
[
|
||
"13b-python",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-python-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-python-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-python-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-python-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-python-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-python-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-python-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-python-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-python-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-python",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-python-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-python-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-python-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-python-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-python-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-python-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-python-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-python-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-python-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "WizardLM Team"
|
||
},
|
||
"stable-code": {
|
||
"url": "https://ollama.com/library/stable-code",
|
||
"description": "Stable Code 3B is a coding model with instruct and code completion variants on par with models such as Code Llama 7B that are 2.5x larger.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"code",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"instruct",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-code",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-code-fp16",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"3b-code-q2_K",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"3b-code-q3_K_L",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"3b-code-q3_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"3b-code-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"3b-code-q4_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-code-q4_1",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"3b-code-q4_K_M",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3b-code-q4_K_S",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-code-q5_0",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"3b-code-q5_1",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"3b-code-q5_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3b-code-q5_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"3b-code-q6_K",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"3b-code-q8_0",
|
||
"3.0 GB"
|
||
],
|
||
[
|
||
"3b-instruct",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-instruct-fp16",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q2_K",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q3_K_L",
|
||
"1.5 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q3_K_M",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q3_K_S",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q4_0",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q4_1",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q4_K_M",
|
||
"1.7 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q4_K_S",
|
||
"1.6 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q5_0",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q5_1",
|
||
"2.1 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q5_K_M",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q5_K_S",
|
||
"1.9 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q6_K",
|
||
"2.3 GB"
|
||
],
|
||
[
|
||
"3b-instruct-q8_0",
|
||
"3.0 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Stability AI"
|
||
},
|
||
"codeqwen": {
|
||
"url": "https://ollama.com/library/codeqwen",
|
||
"description": "CodeQwen1.5 is a large language model pretrained on a large amount of code data.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"chat",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"code",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"v1.5",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q3_K_L",
|
||
"4.0 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q3_K_M",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q3_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_K_M",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q4_K_S",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_1",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_K_M",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q5_K_S",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q6_K",
|
||
"6.4 GB"
|
||
],
|
||
[
|
||
"7b-chat-v1.5-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-code",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-code-v1.5-fp16",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"7b-code-v1.5-q4_0",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-code-v1.5-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-code-v1.5-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-code-v1.5-q5_1",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-code-v1.5-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"v1.5-chat",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"v1.5-code",
|
||
"4.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Alibaba"
|
||
},
|
||
"wizard-math": {
|
||
"url": "https://ollama.com/library/wizard-math",
|
||
"description": "Model focused on math and logic problems",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"70b",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"13b",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"70b-fp16",
|
||
"138 GB"
|
||
],
|
||
[
|
||
"70b-q2_K",
|
||
"29 GB"
|
||
],
|
||
[
|
||
"70b-q3_K_L",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"70b-q3_K_M",
|
||
"33 GB"
|
||
],
|
||
[
|
||
"70b-q3_K_S",
|
||
"30 GB"
|
||
],
|
||
[
|
||
"70b-q4_0",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-q4_1",
|
||
"43 GB"
|
||
],
|
||
[
|
||
"70b-q4_K_M",
|
||
"41 GB"
|
||
],
|
||
[
|
||
"70b-q4_K_S",
|
||
"39 GB"
|
||
],
|
||
[
|
||
"70b-q5_0",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-q5_1",
|
||
"52 GB"
|
||
],
|
||
[
|
||
"70b-q5_K_M",
|
||
"49 GB"
|
||
],
|
||
[
|
||
"70b-q5_K_S",
|
||
"47 GB"
|
||
],
|
||
[
|
||
"70b-q6_K",
|
||
"57 GB"
|
||
],
|
||
[
|
||
"70b-q8_0",
|
||
"73 GB"
|
||
],
|
||
[
|
||
"13b-fp16",
|
||
"26 GB"
|
||
],
|
||
[
|
||
"13b-q2_K",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_L",
|
||
"6.9 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_M",
|
||
"6.3 GB"
|
||
],
|
||
[
|
||
"13b-q3_K_S",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"13b-q4_0",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q4_1",
|
||
"8.2 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_M",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"13b-q4_K_S",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"13b-q5_0",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q5_1",
|
||
"9.8 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_M",
|
||
"9.2 GB"
|
||
],
|
||
[
|
||
"13b-q5_K_S",
|
||
"9.0 GB"
|
||
],
|
||
[
|
||
"13b-q6_K",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"13b-q8_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v1.1-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-fp16",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"7b-q2_K",
|
||
"2.8 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_L",
|
||
"3.6 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_M",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"7b-q3_K_S",
|
||
"2.9 GB"
|
||
],
|
||
[
|
||
"7b-q4_0",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-q4_1",
|
||
"4.2 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_M",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-q4_K_S",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"7b-q5_0",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q5_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_M",
|
||
"4.8 GB"
|
||
],
|
||
[
|
||
"7b-q5_K_S",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"7b-q6_K",
|
||
"5.5 GB"
|
||
],
|
||
[
|
||
"7b-q8_0",
|
||
"7.2 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "WizardLM Team"
|
||
},
|
||
"neural-chat": {
|
||
"url": "https://ollama.com/library/neural-chat",
|
||
"description": "A fine-tuned model based on Mistral with good coverage of domain and language.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.1",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v3.1-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v3.2",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v3.2-q8_0",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"7b-v3.3",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-fp16",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q3_K_L",
|
||
"3.8 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q3_K_M",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q3_K_S",
|
||
"3.2 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q4_0",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q4_1",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q4_K_M",
|
||
"4.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q4_K_S",
|
||
"4.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q5_0",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q5_1",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q5_K_M",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q5_K_S",
|
||
"5.0 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q6_K",
|
||
"5.9 GB"
|
||
],
|
||
[
|
||
"7b-v3.3-q8_0",
|
||
"7.7 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Intel"
|
||
},
|
||
"stablelm2": {
|
||
"url": "https://ollama.com/library/stablelm2",
|
||
"description": "Stable LM 2 is a state-of-the-art 1.6B and 12B parameter language model trained on multilingual data in English, Spanish, German, Italian, French, Portuguese, and Dutch.",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"12b",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"1.6b",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"chat",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"zephyr",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"12b-chat",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"12b-chat-fp16",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"12b-chat-q2_K",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"12b-chat-q3_K_L",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"12b-chat-q3_K_M",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"12b-chat-q3_K_S",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"12b-chat-q4_0",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"12b-chat-q4_1",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"12b-chat-q4_K_M",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"12b-chat-q4_K_S",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"12b-chat-q5_0",
|
||
"8.4 GB"
|
||
],
|
||
[
|
||
"12b-chat-q5_1",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"12b-chat-q5_K_M",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"12b-chat-q5_K_S",
|
||
"8.4 GB"
|
||
],
|
||
[
|
||
"12b-chat-q6_K",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"12b-chat-q8_0",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"12b-text",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"1.6b-chat",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"12b-fp16",
|
||
"24 GB"
|
||
],
|
||
[
|
||
"12b-q2_K",
|
||
"4.7 GB"
|
||
],
|
||
[
|
||
"12b-q3_K_L",
|
||
"6.5 GB"
|
||
],
|
||
[
|
||
"12b-q3_K_M",
|
||
"6.0 GB"
|
||
],
|
||
[
|
||
"12b-q3_K_S",
|
||
"5.4 GB"
|
||
],
|
||
[
|
||
"12b-q4_0",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"12b-q4_1",
|
||
"7.7 GB"
|
||
],
|
||
[
|
||
"12b-q4_K_M",
|
||
"7.4 GB"
|
||
],
|
||
[
|
||
"12b-q4_K_S",
|
||
"7.0 GB"
|
||
],
|
||
[
|
||
"12b-q5_0",
|
||
"8.4 GB"
|
||
],
|
||
[
|
||
"12b-q5_1",
|
||
"9.1 GB"
|
||
],
|
||
[
|
||
"12b-q5_K_M",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"12b-q5_K_S",
|
||
"8.4 GB"
|
||
],
|
||
[
|
||
"12b-q6_K",
|
||
"10.0 GB"
|
||
],
|
||
[
|
||
"12b-q8_0",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-fp16",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q2_K",
|
||
"694 MB"
|
||
],
|
||
[
|
||
"1.6b-chat-q3_K_L",
|
||
"915 MB"
|
||
],
|
||
[
|
||
"1.6b-chat-q3_K_M",
|
||
"858 MB"
|
||
],
|
||
[
|
||
"1.6b-chat-q3_K_S",
|
||
"792 MB"
|
||
],
|
||
[
|
||
"1.6b-chat-q4_0",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"1.6b-chat-q4_1",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q4_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q4_K_S",
|
||
"989 MB"
|
||
],
|
||
[
|
||
"1.6b-chat-q5_0",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q5_1",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q5_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q5_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q6_K",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.6b-chat-q8_0",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-fp16",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q2_K",
|
||
"694 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q3_K_L",
|
||
"915 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q3_K_M",
|
||
"858 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q3_K_S",
|
||
"792 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q4_0",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q4_1",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q4_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q4_K_S",
|
||
"989 MB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q5_0",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q5_1",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q5_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q5_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q6_K",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.6b-zephyr-q8_0",
|
||
"1.8 GB"
|
||
],
|
||
[
|
||
"1.6b-fp16",
|
||
"3.3 GB"
|
||
],
|
||
[
|
||
"1.6b-q2_K",
|
||
"694 MB"
|
||
],
|
||
[
|
||
"1.6b-q3_K_L",
|
||
"915 MB"
|
||
],
|
||
[
|
||
"1.6b-q3_K_M",
|
||
"858 MB"
|
||
],
|
||
[
|
||
"1.6b-q3_K_S",
|
||
"792 MB"
|
||
],
|
||
[
|
||
"1.6b-q4_0",
|
||
"983 MB"
|
||
],
|
||
[
|
||
"1.6b-q4_1",
|
||
"1.1 GB"
|
||
],
|
||
[
|
||
"1.6b-q4_K_M",
|
||
"1.0 GB"
|
||
],
|
||
[
|
||
"1.6b-q4_K_S",
|
||
"989 MB"
|
||
],
|
||
[
|
||
"1.6b-q5_0",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-q5_1",
|
||
"1.3 GB"
|
||
],
|
||
[
|
||
"1.6b-q5_K_M",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-q5_K_S",
|
||
"1.2 GB"
|
||
],
|
||
[
|
||
"1.6b-q6_K",
|
||
"1.4 GB"
|
||
],
|
||
[
|
||
"1.6b-q8_0",
|
||
"1.8 GB"
|
||
]
|
||
],
|
||
"image": false,
|
||
"author": "Stability AI"
|
||
},
|
||
"granite-code": {
|
||
"url": "https://ollama.com/library/granite-code",
|
||
"description": "A family of open foundation models by IBM for Code Intelligence",
|
||
"tags": [
|
||
[
|
||
"latest",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"34b",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"20b",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"8b",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"3b",
|
||
"2.0 GB"
|
||
],
|
||
[
|
||
"34b-base-f16",
|
||
"68 GB"
|
||
],
|
||
[
|
||
"34b-base",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-base-q2_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"34b-base-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-base-q3_K_M",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-base-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-base-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-base-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-base-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-base-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-base-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-base-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-base-q5_K_M",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-base-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-base-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-base-q8_0",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"34b-instruct-f16",
|
||
"68 GB"
|
||
],
|
||
[
|
||
"34b-instruct",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q2_K",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q3_K_L",
|
||
"20 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q3_K_M",
|
||
"18 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q3_K_S",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_0",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_1",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_K_M",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q4_K_S",
|
||
"19 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_0",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_1",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_K_M",
|
||
"25 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q5_K_S",
|
||
"23 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q6_K",
|
||
"28 GB"
|
||
],
|
||
[
|
||
"34b-instruct-q8_0",
|
||
"36 GB"
|
||
],
|
||
[
|
||
"20b-base-f16",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"20b-base",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-base-fp16",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"20b-base-q2_K",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"20b-base-q3_K_L",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-base-q3_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"20b-base-q3_K_S",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"20b-base-q4_0",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-base-q4_1",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"20b-base-q4_K_M",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"20b-base-q4_K_S",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-base-q5_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"20b-base-q5_1",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"20b-base-q5_K_M",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"20b-base-q5_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"20b-base-q6_K",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"20b-base-q8_0",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"20b-instruct-f16",
|
||
"40 GB"
|
||
],
|
||
[
|
||
"20b-instruct",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q2_K",
|
||
"7.9 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q3_K_L",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q3_K_M",
|
||
"11 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q3_K_S",
|
||
"8.9 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q4_0",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q4_1",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q4_K_M",
|
||
"13 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q4_K_S",
|
||
"12 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q5_0",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q5_1",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q5_K_M",
|
||
"15 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q5_K_S",
|
||
"14 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q6_K",
|
||
"17 GB"
|
||
],
|
||
[
|
||
"20b-instruct-q8_0",
|
||
"21 GB"
|
||
],
|
||
[
|
||
"8b-base-f16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-base",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"8b-base-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-base-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"8b-base-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-base-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"8b-base-q3_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"8b-base-q4_0",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"8b-base-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-base-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-base-q4_K_S",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"8b-base-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-base-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-base-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-base-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-base-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-base-q8_0",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-f16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-instruct-fp16",
|
||
"16 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q2_K",
|
||
"3.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_L",
|
||
"4.3 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_M",
|
||
"3.9 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q3_K_S",
|
||
"3.5 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_0",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_1",
|
||
"5.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_K_M",
|
||
"4.9 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q4_K_S",
|
||
"4.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_0",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_1",
|
||
"6.1 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_K_M",
|
||
"5.7 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q5_K_S",
|
||
"5.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q6_K",
|
||
"6.6 GB"
|
||
],
|
||
[
|
||
"8b-instruct-q8_0",
|
||
"8.6 GB"
|
||
],
|
||
[
|
||
|