Update Ollama authored by FEDERICO MUNOZ ROJAS's avatar FEDERICO MUNOZ ROJAS
...@@ -13,6 +13,7 @@ title: Ollama ...@@ -13,6 +13,7 @@ title: Ollama
Se puede ejecutar Ollama en el cluster por medio de contenedores de _Singularity_. A continuación se muestra un ejemplo de _script_ de cola para ejecutar Ollama: Se puede ejecutar Ollama en el cluster por medio de contenedores de _Singularity_. A continuación se muestra un ejemplo de _script_ de cola para ejecutar Ollama:
``` ```
...@@ -38,7 +39,7 @@ singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance ...@@ -38,7 +39,7 @@ singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance
singularity exec instance://ollama.instance ollama serve& singularity exec instance://ollama.instance ollama serve&
curl http://localhost:11434/api/generate -d '{ curl http://localhost:11434/api/generate -d '{
"model": "llama4", "model": "llama3.2",
"prompt": "Why is the sky blue?", "prompt": "Why is the sky blue?",
"stream": false "stream": false
}' }'
...@@ -62,7 +63,7 @@ singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance ...@@ -62,7 +63,7 @@ singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance
singularity exec instance://ollama.instance ollama serve& singularity exec instance://ollama.instance ollama serve&
curl http://localhost:11434/api/chat -d '{ curl http://localhost:11434/api/chat -d '{
"model": "llama4", "model": "llama3.2",
"messages": [{ "role": "user", "messages": [{ "role": "user",
"content": "why is the sky blue?" }], "content": "why is the sky blue?" }],
"stream": false "stream": false
... ...
......