Update Ollama authored by FEDERICO MUNOZ ROJAS's avatar FEDERICO MUNOZ ROJAS
......@@ -6,6 +6,7 @@ title: Ollama
Se puede ejecutar Ollama en el cluster por medio de contenedores de _Singularity_. A continuación se muestra un ejemplo de _script_ de cola para ejecutar Ollama:
```
......@@ -27,9 +28,8 @@ module add singularity
SIF_DIR=/opt/ohpc/pub/containers/IA
singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance ollama serve
singularity exec instance://ollama.instance ollama serve&
singularity exec instance://ollama.instance ollama serve&
singularity exec instance://ollama.instance \
curl http://localhost:11434/api/generate -d '{
"model": "llama3.3",
"prompt":"Why is the sky blue?",
......
......