Update Ollama authored by FEDERICO MUNOZ ROJAS's avatar FEDERICO MUNOZ ROJAS
...@@ -6,6 +6,7 @@ title: Ollama ...@@ -6,6 +6,7 @@ title: Ollama
Se puede ejecutar Ollama en el cluster por medio de contenedores de _Singularity_. A continuación se muestra un ejemplo de _script_ de cola para ejecutar Ollama: Se puede ejecutar Ollama en el cluster por medio de contenedores de _Singularity_. A continuación se muestra un ejemplo de _script_ de cola para ejecutar Ollama:
``` ```
...@@ -27,9 +28,8 @@ module add singularity ...@@ -27,9 +28,8 @@ module add singularity
SIF_DIR=/opt/ohpc/pub/containers/IA SIF_DIR=/opt/ohpc/pub/containers/IA
singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance ollama serve singularity instance start --nv $SIF_DIR/ollama.sif ollama.instance ollama serve
singularity exec instance://ollama.instance ollama serve& singularity exec instance://ollama.instance ollama serve&
singularity exec instance://ollama.instance \
curl http://localhost:11434/api/generate -d '{ curl http://localhost:11434/api/generate -d '{
"model": "llama3.3", "model": "llama3.3",
"prompt":"Why is the sky blue?", "prompt":"Why is the sky blue?",
... ...
......