mirror of
https://github.com/nickyeoman/docker-compose-cookbooks.git
synced 2026-09-04 02:46:23 +00:00
add tool-capable models to config.json
This commit is contained in:
@@ -8,6 +8,14 @@
|
|||||||
"baseURL": "http://localhost:11434/v1"
|
"baseURL": "http://localhost:11434/v1"
|
||||||
},
|
},
|
||||||
"models": {
|
"models": {
|
||||||
|
"qwen3:8b": {
|
||||||
|
"name": "Qwen3 8B",
|
||||||
|
"tools": true,
|
||||||
|
"limit": {
|
||||||
|
"context": 32768,
|
||||||
|
"output": 8192
|
||||||
|
}
|
||||||
|
},
|
||||||
"qwen3:8b-16k": {
|
"qwen3:8b-16k": {
|
||||||
"name": "Qwen3 8B (16k UI-Context)",
|
"name": "Qwen3 8B (16k UI-Context)",
|
||||||
"tools": true,
|
"tools": true,
|
||||||
@@ -15,6 +23,38 @@
|
|||||||
"context": 16384,
|
"context": 16384,
|
||||||
"output": 8192
|
"output": 8192
|
||||||
}
|
}
|
||||||
|
},
|
||||||
|
"qwen2.5:7b": {
|
||||||
|
"name": "Qwen2.5 7B",
|
||||||
|
"tools": true,
|
||||||
|
"limit": {
|
||||||
|
"context": 32768,
|
||||||
|
"output": 8192
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"mistral:latest": {
|
||||||
|
"name": "Mistral 7B",
|
||||||
|
"tools": true,
|
||||||
|
"limit": {
|
||||||
|
"context": 32768,
|
||||||
|
"output": 4096
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"mistral-small3.2:latest": {
|
||||||
|
"name": "Mistral Small 3.2",
|
||||||
|
"tools": true,
|
||||||
|
"limit": {
|
||||||
|
"context": 131072,
|
||||||
|
"output": 8192
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"llama3.1:8b": {
|
||||||
|
"name": "Llama 3.1 8B",
|
||||||
|
"tools": true,
|
||||||
|
"limit": {
|
||||||
|
"context": 131072,
|
||||||
|
"output": 8192
|
||||||
|
}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
|||||||
Reference in New Issue
Block a user