blob: 6a1d469c191fba888f6176d59e6796cd61d41b38 (
plain)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
# Ollama Environment Variables
OLLAMA_HOST="http://127.0.0.1:11434"
OLLAMA_KEEP_ALIVE="5m"
OLLAMA_LOAD_TIMEOUT="5m"
OLLAMA_CONTEXT_LENGTH=4096
OLLAMA_MAX_LOADED_MODELS=0
OLLAMA_GPU_OVERHEAD=0
OLLAMA_MAX_QUEUE=512
OLLAMA_NUM_PARALLEL=1
OLLAMA_NOHISTORY=false
OLLAMA_NOPRUNE=false
OLLAMA_FLASH_ATTENTION=true
OLLAMA_SCHED_SPREAD=false
OLLAMA_DEBUG=0
|