Update Ollama authored by FEDERICO MUNOZ ROJAS's avatar FEDERICO MUNOZ ROJAS
......@@ -13,6 +13,7 @@ title: Ollama
Se puede ejecutar Ollama en el cluster por medio de contenedores de _Singularity_. A continuación se muestra un ejemplo de _script_ de cola para ejecutar Ollama:
```
......@@ -38,7 +39,7 @@ singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance
singularity exec instance://ollama.instance ollama serve&
curl http://localhost:11434/api/generate -d '{
"model": "llama4",
"model": "llama3.2",
"prompt": "Why is the sky blue?",
"stream": false
}'
......@@ -62,7 +63,7 @@ singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance
singularity exec instance://ollama.instance ollama serve&
curl http://localhost:11434/api/chat -d '{
"model": "llama4",
"model": "llama3.2",
"messages": [{ "role": "user",
"content": "why is the sky blue?" }],
"stream": false
......
......