Skip to content

README.md

Latest commit

 

History

History
55 lines (38 loc) · 1.25 KB

README.md

File metadata and controls

55 lines (38 loc) · 1.25 KB

Docker Model Runner - Spring AI Demo

Prerequisitos

  • Maven 3.8.5+
  • Java 21
  • Docker 28.4.0+
  • Docker Model Runner 0.1.40
  • Docker Compose 2.39.4
  • Postman

Ejecución

  1. Instalación previa de las herramientas necesarias.

  2. Descarga del modelo ai/llama3.2:3B-Q4_0 en Docker Model Runner con el comando:

docker model pull ai/llama3.2:3B-Q4_0
  1. Compilación del código en línea de comando. En la carpeta raíz del proyecto lanzar el siguiente comando:
mvn clean install
  1. Generar la imagen con de la aplicación ejecutando el siguiente comando:
mvn spring-boot:build-image
  1. Levantar el docker-compose con el siguiente comando situándose previamente en la carpeta /docker del proyecto:
docker-compose up

  1. Ejecutar la petición Postman disponible en el la carpeta src/main/resources/postman del proyecto.

  2. Parar la ejecución del docker-compose con Control+C en la terminal en la que se levantó. Posteriormente en esa misma terminal ejecutar el comando:

docker-compose down
  1. Parar la ejecución del Docker Model Runner con el comando (revisar el nombre/id del contenedor a parar con el comando docker ps):
docker stop docker-model-runner